Machine Pro ・会员通讯22 ---本周值得经历值得体验该行业的机器人的重要事情--- 1。低成本悖论或高性能模型？公司是否打算在其用户意识模型中“降低性能”？为什么不提供免费的Seak Speek推理服务的公司？该模型的成本仍然很高，但是真的取决于“精确转换功率”？除量化和修剪外，还有什么“低成本和高绩效的花朵作品，“工业和凤凰龙”？... 2。和传统参考点？ IRT如何接受评估系统的动态更新？主要国家和外国模型的“招聘”和“营销”特征是什么？ ...本新闻通讯的完整版本包括2种特殊解释 + 29个机器人AI的主要监测事件，11个技术方面，10个国家方面和8个外国方面。这个问题的总沟通是23,426个单词，可以免费阅读多达7％的人。消费99个微信可以交换以完全解释此问题（约9.9元）。重要问题1：这是低成本，矛盾的还是非常可能的高性能模型？简介：在2025年上半年，CASI声称所有主要的互联网制造商都连接到相同的“完整版”型号DepSeek-R1，但是根据用户测试的实际结果，服务经验和每个公司的型号功能仍然存在显着差异。这似乎是利润吗BLE解决方案是通过模型蒸馏和量化等方法节省推理成本的长期解决方案？有些人执行“象征工厂”并赚钱有些人损失钱。通过降低精度将损失转换为利润是公共秘密吗？ 1。大规模语言模型（LLM）的绩效差异和成本一直是公共和工业护理的重点。关于大型模型的主要公司是“牺牲伟大模型的精度或其服务稳定性以节省推理成本的稳定性，都没有中断。” 2。由于Chatgpt变得流行，用户有时会抱怨社交网络有关性能恶化。模型的推理能力似乎似乎提供了信息，遵循说明的困难，忘记将支持添加到基本软件代码上，而只记住最近的指示。 DEPSEEK-R1需要多个高单位性能。 GPU服务器并行兼容，独特的硬件投资成本高达数百万元。为了避免投资其他硬件或允许有限的硬件为更多用户提供服务，某些平台可能会采用蒸馏版本，从而大大降低了模型的推理功能和稳定性。核心Realseek-R1的真正“全血版本”需要更多的硬件投资。该模型中的参数数量达到6710亿，其推论功能具有强大的功能，足以适应科学研究和复杂的任务。 [1-3] [1-4]要有效执行如此大型的模型，您需要四张卡中的四台机器才能确保毫无问题的操作。 DeepSeek正式宣布的参数的精度是FP8，即8点参数。 8个Caryou中的一台A100中的全部机器几乎无法执行原始型号。为了降低成本，一些制造商减少了参数并量化了m在4位参数中，这使用户质疑该模型是否真的是“真实版本”。技术与曾经在社交平台上发表的内容进行战斗是，DeepSeek模型的高成本意味着服务提供商的福利幅度几乎为零，甚至导致损失。 [1-5]根据您的计算，根据DeepSeek-R1的全血版本为4.5亿元人民币的机器每月费用，损失了4亿元。 AMD芯片赚了4500万元，机器的月度成本为2.7亿元。换句话说，损失是2亿元人民币。同时，在更大的市场竞争中，许多重要的制造商通过自由战略成本与客户竞争，进一步加强了MAAS模型（作为服务模型）的损失情况。在这项“收款价格”竞争中，制造商必须找到其他方法来继续运营而没有完全损失，例如降低成本。模型的成本是仍然很高，但它只能取决于“精确转换功率”？ 1。在需要平衡成本和绩效的背景下，对于任何地方的高端用户都没有出色的“完整版”模型。寻找具有足够性能的版本通常很困难，尤其是在市场上免费或低成本服务的情况下。一些AI公司开始通过采用模型的蒸馏或简化版本来平衡资本投资，从而降低推理成本。 [1-2] 2。为了解决这些成本压力，行业的常见应对策略之一是降低了模型的精度。技术方法，例如模型的量化，模型的修剪和知识蒸馏，已成为共同的实践。 [1-6] [1-7]①模型的量化降低了权重的数值精度（例如，16位浮数的转换为8位整体），降低了计算复杂性和记忆的使用，并降低了Hardware要求。但是，由于数值精度降低，量化无效。 AR的引入可以导致模型输出的精度降低。