站长之家(ChinaZ.com)4月17日 消息:Ollama软件的最新更新为用户带来了一系列显著的性能提升和新功能。这次更新主要集中在优化软件性能,提高VRAM的利用率,减少内存不足的错误,并改善GPU的运行效率。此外,Ollama还扩展了对一些热门新模型的支持,以满足用户对最新技术的需求。
功能更新细节
VRAM和GPU优化: 更新后的Ollama能够更高效地利用可用的VRAM,这有助于减少内存不足的错误,确保软件运行的流畅性。同时,通过优化GPU的利用率,软件能够在处理复杂任务时表现更好,提供更快的处理速度和更高的性能。
macOS上的模型分割: 对于在macOS系统上运行且VRAM较大的模型,Ollama现在能够将模型在GPU和CPU之间进行分割,这样做可以最大化性能,使得在资源有限的情况下也能运行复杂的模型。
新增模型支持
WizardLM2: 这是微软人工智能推出的最先进大型语言模型,它在复杂聊天、多语言、推理和代理使用案例上都有所改进。WizardLM2的加入意味着Ollama用户现在可以利用这一强大的模型进行更多样化和高质量的文本生成任务。
Snowflake Arctic Embed: 这是一个全新的嵌入模型,它的加入为Ollama用户提供了更多的选择,以适应不同的文本处理需求。
Command R+: 这是一款功能强大且可扩展的大型语言模型,专门为RAG(Retrieval-Augmented Generation)用例而构建。Command R+的集成将增强Ollama在文本生成方面的灵活性和准确性。
Mixtral8x22B: Mistral AI推出的新领先专家混合模型,它结合了专家知识和混合模型的优势,为用户提供更高质量的输出结果。
DBRX: 由Databricks创建的大型132B开放通用用途LLM,DBRX的加入使得Ollama用户能够利用这一大规模模型进行广泛的应用,从数据分析到自然语言处理等多个领域。
通过这次更新,Ollama不仅提高了自身的性能和稳定性,还通过支持新的模型,为用户提供了更多的选择和可能性。这些改进将帮助用户更高效地完成任务,同时也为探索人工智能的潜力开辟了新的道路。无论是研究人员、开发者还是普通用户,都能够从Ollama的新功能和模型支持中受益。
详细介绍:https://github.com/ollama/ollama/releases
模型下载:https://top.aibase.com/tool/ollama
()
(来源:站长之家)
免责声明:本站文章部分内容为本站原创,另有部分容来源于第三方或整理自互联网,其中转载部分仅供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对其内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。