打开APP

OpenAI创始人:AI可能毁灭人类

目前,OpenAI公司鼓励对监管这些系统展开讨论,并表示正在收集公众的反馈,以完善其技术。

//OpenAI创始人:AI可能毁灭人类,必须开发新技术来解决! //

OpenAI创始人兼首席执行官Sam Altman上周六(3月25日)在接受科技博客主Lex Fridman的采访时表态,他不会回避“人工智能可能杀死全人类”的说法。

在Youtube平台公布的视频中,Fridman在访谈中提到了人工智能研究者、LessWrong研究所创始人Eliezer Yudkowsky的观点。Yudkowsky此前指出“人工智能可能杀死所有人”,并认为,当人工智能发展为超级智能时,几乎无法与人类站在统一战线上。

对于此,Altman回应道,“我认为有这种可能性,并且承认这一点很重要,因为如果我们不谈论它、不把它视为潜在的事实,那么我们就不会投入足够的努力去解决这个问题。”

“我认为我们必须开发新的技术来解决这个问题…我所知道的解决这类问题的*方法就是不断迭代,尽早学习。”

GPT的推理能力

在此次采访中,Altman提出了一点关于GPT的新颖之处,即推理能力。

“这个模型的神奇之处在于…对于很多它都不准确的定义,它可以进行某种推理。”

Altman指出,“我认为这很了不起,最令人兴奋的是,在提取人类知识的过程中,它产生了这种推理能力。”

关于偏向性的争议

在与Lex Fridman的谈论中,Sam Altman讨论了关于语言模型GPT的一个争议性话题,即GPT是否太过“woke”(有清醒、觉醒之意)了,也就是说该语言模型给出的答案是否存在偏向性。

例如,世界各地许多存在右翼倾向的新闻媒体指责OpenAI的ChatGPT在某些交互示例中,表现出自由主义偏见。

“Woke”这个词*是埃隆·马斯克在推特上提出的。他写道,“训练AI觉醒的风险,换句话说就是训练其撒谎,是相当致命的”。

对此,Altman在此次采访中表示,“说实话,我甚至不知道‘woke’是什么意思”。

不过Altman也承认,“GPT确实存在偏见,而且可能永远都是如此。”

Altman继续解释道,任何一个版本的GPT都不会是完全没有偏见的、能被全世界公认是公正的。这是因为ChatGPT在推出之际,借助了外部力量进行迭代更新,也就是让全世界的人参与进来去“塑造”它,所以该模型所存在的偏见是无法避免的。

Altman还指出,OpenAI已经对模型进行了重大改进,以减轻固有偏见并提高其准确性,一些对GPT模型批评最严厉的人,也赞扬了OpenAI在GPT-3.5版本升级为GPT-4版本之时所做的改进。Altman同时也承认,未来还有很多工作要做。

与马斯克的恩怨

在此次访谈中,他也提到了OpenAI和埃隆·马斯克之间的恩怨。自OpenAI推出ChatGPT后,马斯克一直在推特上提出批评。

Altman,“埃隆显然正在推特上从不同角度攻击我们”

马斯克是OpenAI的联合创始人,但之后由于理念不同,在2019年与该公司彻底分道扬镳。而最近几个月,在ChatGPT带动的人工智能热潮中,马斯克重新燃起了他对OpenAI的“关心“。

这位亿万富翁指责OpenAI与微软的合作让它从以前的非营利组织变成了现在“*的营利公司”。据悉,微软已向OpenAI投资了100多亿美元。

马斯克还把矛头对准了该公司的热门聊天机器人ChatGPT,他在推特上讽刺这项技术“好得吓人”,并表示“我们离危险的强大人工智能不远了”。

对于马斯克的“非营利性”指控,Altman回应道,“我们很早就意识到,我们需要的资金远远超过我们作为非营利组织所能筹集到的资金。”

Altman回应道,他理解马斯克对人工通用智能(AGI)的保留意见,AGI是一种能够像人类一样思考和学习智力任务的人工智能系统。也有不少该领域的专家同样对AGI技术表示担忧,称如果这些系统以意想不到的方式运行或变得难以控制,可能会导致“灾难性的结果”。

与此同时,Altman也提到,“马斯克在我心中是英雄,我支持也理解他的担忧…但希望马斯克能承认OpenAI在解决AGI安全问题是所付出的努力。

目前,OpenAI公司鼓励对监管这些系统展开讨论,并表示正在收集公众的反馈,以完善其技术。

【本文由投资界合作伙伴财联社授权发布,本平台仅提供信息存储服务。】如有任何疑问题,请联系(editor@zero2ipo.com.cn)投资界处理。

相关资讯

相关企业

AI数据总览

最新资讯

热门TOP5热门机构 | VC情报局

去投资界看更多精彩内容
【声明:本页面数据来源于公开收集,未经核实,仅供展示和参考。本页面展示的数据信息不代表投资界观点,本页面数据不构成任何对于投资的建议。特别提示:投资有风险,决策请谨慎。】