财联社3月28日讯(编辑 卞纯)欧盟执法机构欧洲刑警组织(Europol)周一警告称,人工智能聊天机器人ChatGPT可能被滥用于网络钓鱼、宣传虚假信息以及网络犯罪。这加剧了外界对这一新兴事物在法律、道德等方面的担忧。
(资料图片仅供参考)
OpenAI公司开发的ChatGPT自去年11月底推出以来,迅速成为增长最快的互联网服务之一,在推出头两个月用户就超过了1亿。由于该模型能够根据提示生成类似人类书写的文本,这是一种前所未有的能力,因此迅速风靡全球。
随着ChatGPT掀起一场科技热潮,相关竞品纷纷出现,企业竞相将ChatGPT或类似技术集成到自己的应用程序和产品中。
“随着ChatGPT等LLMs(大型语言模型)的能力积极改进,犯罪分子可能滥用这类人工智能系统,前景不容乐观,”欧洲刑警组织在一份以聊天机器人开头的技术报告中表示。
或被用于三个犯罪领域
报告指出,ChatGPT或被用于三个犯罪领域,分别是网络钓鱼、宣传虚假信息以及网络犯罪。
网络钓鱼是一个重要的应用领域,它通过发送虚假电子邮件来诱使用户点击链接。在过去,由于语法或语言错误,这些骗局很容易被发现,而人工智能生成的文本高度逼真加大了骗局被识破的难度。
“ChatGPT能够起草高度逼真的文本,这使其成为网络钓鱼的有用工具。”欧洲刑警组织表示。
该机构表示,由于该聊天机器人拥有复制语言模式的能力,可以模仿特定个人或群体的说话风格,犯罪分子可能会利用它来瞄准受害者。
欧洲刑警组织表示,ChatGPT能够快速、大规模地生成听起来真实的文本,这也使其成为宣传虚假信息的理想工具。
该机构还表示,缺乏技术知识的犯罪分子,还可能会利用ChatGPT来生成恶意代码。