新闻中心

实时更新中芯汇金最新动态,了解中芯汇金

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?

发布时间 :2023-03-31 10:24:02

3月14日,美国研发公司OpenAI正式发布人工智能语言模型的最新产品GPT-4,震动全球。两周时间过去,一封包括SpaceX首席执行官马斯克以及1000多名行业高管和专家签署的公开信在网上发布,他们呼吁,在至少6个月内,暂停开发比GPT-4更强大的AI系统,并警告人工智能的发展“对社会和人类构成潜在风险”。GPT-4的发展为何会引发如此担忧呢? 

AI发展太快 对社会和人类构成潜在风险引发担忧

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图1)

这封公开信中表达的普遍忧虑是,AI发展太快,相关的监管和法律没有跟上,甚至连发明者也缺乏有效的控制手段。 

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图2)

英国神经学家 阿尼尔·塞斯:我认为真正使我震撼的事,是机器学习和人工智能从开发到发布这一整个周期似乎非常之快。

日本首相首次在内阁会议上回答“ChatGPT”提问

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图3)

29日,日本首相岸田文雄在众议院内阁委员会会议上回答了用OpenAI公司的聊天机器人程序“ChatGPT”生成的提问。随后,ChatGPT预测了岸田文雄的回答,在答辩后用展板进行了展示,答案的走向基本一致。 

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图4)

日本首相 岸田文雄:我的回答列举出了日本全国知事会、市长会等具体相关方的名称,更能反映实际状况。

AI模拟声音引发所谓“深度伪造”担忧
事实上,这还只是ChatGPT的基本应用。美媒记者展示了自己使用AI模拟自己的声音与父亲通话的过程,而这一过程也引发了所谓“深度伪造”的担忧。

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图5)

美国有线电视新闻网主持人:这看起来像是个好玩的游戏,但AI技术甚至可以用来实现所谓的“深度伪造”,这可就不好玩了。因为我们可以通过这项技术复制任何人的外貌,生成数字面具。 

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图6)

GPT-4横空出世 能力太强引发全球热议

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图7)

GPT-4是美国研发公司OpenAI为聊天机器人ChatGPT发布的第四代语言模型,它的横空出世被科技界认为是“未来已来”,引发了全球热议。它可以撰写文章、创建网页、逻辑推理,创作几乎任何内容。此外,它还能参加考试,它在美国律师资格考试中得分超过了90%的考生。 
英国天空台记者 汤姆·克拉克:嗨,GPT-4,你有自主意识吗? 
GPT-4:作为一个新语言模型,我不具备意识,我没有自我意识、主观情感或主观体验,我的反应是来自我所受训练的文本数据中已写定的模式。
事实上,从ChatGPT横空出世至今,如何管控风险一直都是讨论的焦点。 

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图8)

美国广播公司记者:一方面AI潜力巨大,可以用来做有益的事情,另一方面,存在大量未知的情形,可能给社会带来非常坏的后果。你有多大的信心,你打造的东西不会造成这样的结果呢?

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图9)

美国OpenAI公司首席执行官 山姆·阿尔特曼:我们会调整。

美国广播公司记者:你们会在负面事情发生的时候去调整吗?

美国OpenAI公司首席执行官 山姆·阿尔特曼:当前的系统依然弱小,现在就发布这套系统,趁着风险还很小,尽我们所能去了解情况,我认为这样就能避免出现更加危险的情形。 

紧急“喊停”!千人联名呼吁:AI发展太快,引发担忧?(图10)

不过,也有观点反对叫停研发,可以预见的是,人类与AI如何共处互进将成为未来全球关注的焦点。 




来源:央视财经(ID:cctvyscj)


分享到微信朋友圈 ×

免费咨询

*姓名:
*手机:
邮箱:
区域:
您的问题:

感谢您的关注,您有任何问题都可以在此留下信息,中芯汇金会及时为您提供帮助。

提交