您的当前位置:首页 >百科 >ChatGPT之父“夜不能寐” 担心模型被滥用 滥用他也承认这项技术有风险 正文

ChatGPT之父“夜不能寐” 担心模型被滥用 滥用他也承认这项技术有风险

时间:2024-05-16 14:32:49 来源:网络整理编辑:百科

核心提示

上周人工智能初创组织OpenAI首席执行官山姆·阿尔特曼Sam Altman)在接受采访时表示,人工智能可能是“人类迄今为止所开发的最伟大技术”,将重塑现有社会。同时,他也承认这项技术有风险,对此还是

上周人工智能初创组织OpenAI首席执行官山姆·阿尔特曼(Sam Altman)在接受采访时表示,夜不能寐人工智能可能是父担“人类迄今为止所开发的最伟大技术”,将重塑现有社会。心模型被同时,滥用他也承认这项技术有风险,夜不能寐对此还是父担“有点畏惧”。

阿尔特曼强调,心模型被人工智能会带来真正的滥用危险,他说:“我们在这方面必须小心……我认为值得庆幸的夜不能寐是,我们对此有点畏惧之心。父担”

阿尔特曼在采访中谈到了OpenAI最近发布的心模型被最新版人工智能语言模型GPT-4。他强调,滥用ChatGPT的夜不能寐上线需要监管机构和全社会的共同参与,各种反馈有助于阻止人工智能技术给人类带来潜在负面影响。父担他补充说,心模型被自己一直与政府官员保持“定期联系”。

虽然尚“不完美”,但阿尔特曼说,GPT-4在美国法考中的成绩位列前10%,在SAT数学考试中也获得了近乎完美的绝地求生黑号分数。现在GPT-4可以熟练用市面上的大多数编程语言编写计算机代码。

GPT-4只是OpenAI朝着最终打造通用人工智能方面迈出的一小步。当人工智能技术取得突破性进展时,就会出现比人类更聪明的人工智能系统,这就是所谓的通用人工智能。

尽管阿尔特曼赞许自家产品的成功,但也承认人工智能可能存在的危险让他夜不能寐。

阿尔特曼说:“我特别担心这些模型会被用于大规模生成虚假信息。”“既然它们越来越擅长编写计算机代码,那么完全可以用于进攻性网络攻击。”

但阿尔特曼并不认为人工智能模型会像科幻小说所描述那样不再需要人类,可以自行做决定,谋划统治世界。“它等着有人给它输入信息,”阿尔特曼说,“这在很大程度上仍是由人类控制的工具。”

然而,阿尔特曼说自己的Ai导航确担心哪些人会控制人工智能。他补充说:“总会有人不遵守我们设定的一些安全规则。”“我认为,弄清楚如何对此做出反应、如何监管、如何处理,留给全社会的时间不多了。”

在评论掌握人工智能技术就可能“统治世界”的观点时,阿尔特曼说:“这肯定是一个让人不寒而栗的说法。”“相反,我希望的是,我们不断开发出越来越强大的系统,让人们都可以用不同的方式使用这些系统,让系统融入我们的日常生活,融入经济,去充分发挥人的意愿。”