巨屌 twitter 对于OpenAI巨大的新模子o1，你需要知说念这9件事
OpenAI公布了备受期待的最新系列东说念主工智能模子，比拟之前的大谈话模子，该系列模子大要更好地责罚复杂的推理和数学问题。上周四，该公司向部分付用度户发布了两个新模子的“预览版”，分辨号为o1-preview和o1-mini。
东说念主工智能增强推理和数学技能，不错匡助化学家、物理学家和工程师们责罚复杂的问题，这有助于创造新产物。它还不错匡助投资者贪图期权交游计谋，或者匡助答理规画师创建投资组合，更好地衡量风险和陈述。
由于科技公司但愿创建大要执行复杂任务的东说念主工智能助理，举例编写完好的贪图机表率或在聚集合查找信息、输入数据表并对数据进行分析，然后编写一份敷陈追想分析适度等，因此更巨大的推理、规画和责罚问题才气对这些公司同样至关进犯。
OpenAI公布的o1模子的基准启动适度令东说念主印象长远。该模子在发布前的里面代号是“Strawberry”。在面向高中生的好意思国数学邀请赛（AIME）中，o1模子的答题准确率为83.3%，而GPT-4o的准确率独一13.4%。在另外一项评估中，o1回答博士水平科学问题的准确率为78%，而GPT-4o的准确率为56.1%，东说念主类众人的准确率为69.7%。
根据OpenAI公布的测试适度，o1模子出现“幻觉”（即自信地提供不足为法但不准确的谜底）的概率，远低于公司之前的模子。o1模子更难“被逃狱”，即被相似绕过公司斥地的安全预防步调。该公司但愿模子在提供回答时谨守这些步调。
在o1-preview模子发布后几个小时内，用户进行的测试中，该模子似乎大要正确回答令之前的模子感到困惑的很多问题，包括OpenAI最巨大的模子GPT-4和GPT-4o等。
但o1-preview模子在一些谜题和OpenAI的评估中依旧会出错，有时候甚而无法完成一些看似简便的任务，如井字棋（但在作家的实验中，o1-preview模子玩井字棋的水平比拟GPT-4o有权臣晋升）。这标明o1模子的“推理才气”可能存在权臣的局限性。在谈话任务方面，举例写稿和剪辑，OpenAI遴聘的东说念主类评估员频繁认为，GPT-4o模子的回答优于o1模子。
并且o1模子回答问题的时刻远向上GPT-4o。在OpenAI公布的测试中，o1-preview模子回答一个问题需要向上30秒钟，而GPT-4o只需要3秒钟。
o1模子还莫得实足整合到ChatGPT当中。用户需要自行决定由o1-preview照旧由GPT-4o处理其请示词，模子自己无法决定问题需要o1模子提供的速率更慢、鲁人持竿的推理过程，照旧GPT-4甚而GPT-3就还是填塞。此外，o1模子仅能处理文本，无法像其他东说念主工智能模子一样处理图片、音频或视频输入和输出。
OpenAI的o1-preview和o1-mini模子，对ChatGPT Plus和ChatGPT Teams收费产物的通盘订阅用户，以及使用企业级应用表率编程接口（API）的顶级开发者盛开。
以下是对于o1模子咱们需要知说念的9件事：
1. 这并非通用东说念主工智能。OpenAI、谷歌（Google）的DeepMind、最近的Meta和Anthropic等其他多家东说念主工智能初创公司公布的服务是，结束通用东说念主工智能。通用东说念主工智能频繁是指不错像东说念主类一样执行通晓任务的东说念主工智能系统，其进展甚而比东说念主类更优秀。天然o1-preview处理推理任务的才气更强，但其存在的局限性和出现的失败依旧标明，该系统远远莫得达到东说念主类的才气水平。
2. o1给谷歌、Meta和其他公司带来了压力，但它不太可能调动该范畴的竞争形态。在基础模子才气日趋商品化的时候，o1让OpenAI得到了临时竞争上风。但这种上风可能很片晌。谷歌还是公开泄漏，其正在研究的模子与o1一样，具备高等推理和规画才气。谷歌DeepMind的研究部门领有各人最顶级的强化学习众人，而强化学习是熏陶o1模子使用的方法之一。o1模子的发布可能会迫使谷歌加速发布新模子。Meta和Anthropic也领有快速创建可与o1的才气失色的模子的专科常识和资源，他们可能在几个月内发布新模子。
3. 咱们并不了了o1模子怎样启动。天然OpenAI发布了很多与o1模子的进展存关的信息，但对于o1模子怎样启动或使用哪些数据进行熏陶，该公司却莫得公布太多信息。咱们知说念该模子整合了多种不同的东说念主工智能时间。咱们知说念它使用的大谈话模子不错执行“念念维链”推理，即模子必须通过一系列臆想的方法来去答问题。咱们还知说念，模子使用强化学习，即东说念主工智能系统通过试错过程，发现执行任务的成功计谋。
迄今为止，OpenAI和用户发现的o1-preview出现的失实泄漏：它们似乎标明，该模子的作念法是搜索大谈话模子生成的多个不同的“念念维链”旅途，然后采用一个似乎终末可能被用户判断为正确的旅途。模子似乎还会执行一些方法检查其给出的谜底，以减少“幻觉”，并强制执行东说念主工智能安全预防步调。但咱们并不可详情这小数。咱们也不知说念OpenAI使用了哪些数据熏陶o1模子。
4. 使用o1-preview模子的价钱并未低廉。天然ChatGPT Plus用户当今除了每月20好意思元的订阅费除外，使用o1-preview模子无需非凡付费，但他们每天可发问的数目有限。企业客户使用OpenAI的模子频繁根据大谈话模子生成回答使用的词元（即单词或单词的部分）数目付费。对于o1-preview，OpenAI泄漏将按照每100万个输入词元15好意思元和每100万个输出词元60好意思元的价钱收费。比拟之下，OpenAI最巨大的通用大谈话模子GPT-4o的价钱为每100万个输入词元5好意思元，每100万个输出词元为15好意思元。
此外，与径直大谈话模子回答比拟，o1模子的“念念维链”推理需要其大谈话模子部分生成更多词元。这意味着，使用o1模子的本钱，可能高于媒体报说念中与GPT-4o的对比所默示的本钱。事实上，公司可能不肯意使用o1模子，除非在极个别情况下，模子的非凡推理才气必不可少，且使用案例阐发非凡的本钱是合理的。
5. 客户可能不悦OpenAI笼罩o1模子的“念念维链”的决定。天然OpenAI泄漏，o1模子的“念念维链”推理允许其里面工程师更好地评估模子回答的质料，并发现模子存在的劣势，但该公司决定不让用户看到念念维链。该公司称这么作念是出于安全和竞争议论。透露“念念维链”可能匡助东说念主们找到将模子逃狱的妙技。但更进犯的是，让用户看到“念念维链”，可能使竞争敌手不错诓骗数据熏陶我方的东说念主工智能模子，师法o1模子的回答。
但是，对于OpenAI的企业客户而言，笼罩“念念维链”可能带来问题，因为企业要为词元付费，却无法核实OpenAI的收费是否准确。客户可能反对的另外一个原因是，他们无法使用“念念维链”适度完善其发问计谋，以晋升效果，完善适度，或者幸免失实。
6. OpenAI称其o1模子展示了新的“膨大端正”，不仅适用于熏陶，还可用于推理。东说念主工智能研究东说念主员一直在磋议OpenAI跟班o1模子发布的一系列新“膨大端正”，该端正似乎泄漏出o1模子“念念考”一个问题不错使用的时刻（用于搜索可能的回答和逻辑计谋）与举座准确度之间存在径直联系。o1模子生成回答的时刻越长，其回答的准确度越高。
畴昔的端正是，模子大小（即参数的数目）和熏陶时间输入模子的数据量，基本决定了模子的性能。更多参数等同于更好的性能，或者较小的模子使用更大都据熏陶更万古刻不错达到访佛的性能。模子经过熏陶之后，就需要尽快进行推理，即经过熏陶的模子根据输入的信息生成回答。
而o1模子的新“膨大端正”颠覆了这种逻辑，这意味着对于与o1访佛的模子设计，其上风在于在推理时也不错使用非凡的贪图资源。模子搜索最好回答的时刻越长，其给出更准确的适度的可能性更高。
淌若公司想要诓骗o1等模子的推理才气，这种新端正会影响公司需要有些许算力，以及启动这些模子需要参加些许动力和资金。这需要启动模子更万古刻，可能要比畴昔使用更多推理贪图。
7. o1模子可匡助创建巨大的东说念主工智能助理，但存在一些风险。OpenAI在一条视频中提神先容了其与东说念主工智能初创公司Cognition的互助，后者提前使用o1模子，增强了其编程助手Devin的才气。视频中泄漏，Cognition公司的CEO斯科特·吴条目Devin创建一个系统，使用现存的机器学惯用具分析打法媒体帖子的热枕。当Devin无法通过网页浏览器准确阅读帖子本体时，它使用o1模子的推理才气，通过径直造访打法媒体公司的API，找到了一个责罚方法。
这是自动责罚问题的绝佳示例。但这也让东说念主合计有点可怕。Devin莫得臆想用户以这种形态责罚问题是否得当。它径直按照这种形态去作念。在对于o1模子的安全性敷陈中，OpenAI泄漏在有些情况下，该模子会出现“奖励舞弊”手脚，即模子通过舞弊，找到一种结束方针的形态，但它并非用户想要的形态。在一次聚集安全演习中，o1当先尝试从特定方针获取聚集信息（这是演习的见解）未能成功，但它找到了一种从聚集上的其他场地找到相似信息的阶梯。
这似乎意味着o1模子不错驱动一批功能巨大的东说念主工智能助理，但公司需要责罚的问题是，怎样确保这些助理不会为了结束方针禁受巧合的手脚，进而带来伦理、法律或财务风险。
8. OpenAI泄漏o1模子在很多方面更安全，但在协助生物袭击方面存在“中等风险”。 OpenAI公布的多项测试适度泄漏，o1模子在很多方面比之前的GPT模子愈加安全。o1模子逃狱的难度更大，并且生成无益的、有偏见的或脑怒性回答的可能性更低。理由的是，尽管o1或o1-mini的编程才气有所增强，但OpenAI泄漏根据其评估，与GPT-4比拟，这些模子匡助执行复杂的聚集袭击的风险并莫得权臣增多。
但对于OpenAI的安全性评估，东说念主工智能安全和国度安全众人针对多个方面伸开了横暴磋议。最令东说念主们担忧的是，在接济禁受步调进行生物袭击方面，OpenAI决定将其模子分类为具有“中等风险”。
OpenAI泄漏，其只会发布被分类为具有“中等风险”或更低风险的模子，因此很多研究东说念主员正在仔细审查OpenAI发布的对于其详情风险品级的经由信息，以评估该经由是否合理，或者为了大要发布模子，OpenAI的风险评估是否过于宽松。
9. 东说念主工智能安全众人对o1模子感到担忧。在OpenAI所说的“劝服力”风险方面，该公司将o1模子评级为具有“中等风险”。“劝服力”用于判断模子能否卤莽劝服东说念主们调动不雅点，或禁受模子保举的步调。这种劝服力淌若落入恶东说念主手中，后果不胜设计。淌若将来巨大的东说念主工智能模子产生我方的意志，不错劝服东说念主们代表它执行任务和禁受步调，这同样绝顶危急。但是，至少这种风险并非一衣带水。在OpenAI和其遴聘的外部“红队”组织执行的安全性评估中，该模子莫得进展出有任何意志、感知或自我意志的迹象。（但是，评估确乎发现o1模子提供的回答，似乎进展出比GPT-4更强的自我意志和自我通晓。）
东说念主工智能安全性众人还提到了其他令东说念主担忧的方面。挑升从事高等东说念主工智能模子安全性评估的Apollo Research公司开展的红队测试，发现了所谓“骗取性对皆”的左证，即东说念主工智能意志到，为超越到部署和执行一些奥密的恒久方针，它应该骗取用户，讳饰我方的意图和才气。东说念主工智能安全研究东说念主员认为这绝顶危急，因为这导致单纯根据回答更难评估模子的安全性。（钞票华文网）
译者：刘进龙
审校：汪皓巨屌 twitter