生成式人工智能的信任与安全问题

留学申请微信咨询

微信扫描左侧二维码

或点击下方按钮咨询

人们对生成式人工智能的信任问题：以ChatGPT为例

2024年6月27日，宾夕法尼亚州立大学（2024USNews美国大学排名：60）的研究人员S. Shyam Sundar和Yongnam Jung发表了一项关于人们对生成式人工智能（如ChatGPT）的信任问题的研究。研究表明，尽管ChatGPT在某些情况下被用作搜索引擎，但用户对其结果的信任度较低。研究指出，ChatGPT的互动性和个性化服务增加了用户的信任，但其生成的信息往往缺乏参考资料，容易出现错误。相比之下，用户更信任Google和Wikipedia，因为它们提供多样化的搜索结果和透明的参考信息。

生成式人工智能的信任问题

生成式人工智能（Generative AI）如ChatGPT的迅速发展引发了广泛的讨论和研究。2024年6月4日，WIRED发布了一篇题为《AI Is Your Coworker Now. Can You Trust It?》的文章，探讨了生成式AI工具在工作场所中的隐私和安全问题。文章指出，OpenAI的ChatGPT和微软的Copilot等生成式AI工具正在迅速发展，但也引发了多种隐私和安全问题。

微软的新Recall工具因其每几秒截屏一次的功能被称为“隐私噩梦”，引起了英国信息专员办公室的关注。美国众议院也因数据泄露风险禁止员工使用Copilot。市场分析公司Gartner警告称，使用Microsoft 365的Copilot可能会导致敏感数据的内部和外部暴露。文章还提到，生成式AI系统容易被黑客攻击，可能导致敏感数据泄露或恶意软件传播。为了应对这些风险，企业和员工应避免在公开的AI工具中输入机密信息，并采取适当的安全措施。微软、谷歌和OpenAI等公司也在努力保护用户的隐私和安全，但随着AI技术的不断进步，风险也在增加。

传统搜索引擎与生成式人工智能的信任对比

《纽约时报》于2023年7月18日发表了一篇文章，探讨了维基百科在人工智能（AI）时代面临的挑战和机遇。文章指出，维基百科的编辑们早在2021年就注意到GPT-3等AI技术的崛起，并担心这些技术可能会取代维基百科。尽管维基百科在全球拥有334种语言版本和超过6100万篇文章，但其开放协作的模式面临着AI带来的威胁。

维基百科的数据被广泛用于训练AI模型，如ChatGPT和Google的Bard，这些模型依赖维基百科的内容来生成答案。然而，随着AI技术的发展，维基百科可能会因使用率下降而受到影响，进而影响其编辑和捐款来源。为了应对这一挑战，维基百科推出了Wikimedia Enterprise，向科技公司出售API访问权限，以获取资金支持。

文章还提到，维基百科正在探索如何利用AI技术改进自身，如使用AI模型帮助新编辑入门，并预测新文章或编辑是否会被推翻。然而，AI生成的内容可能会带来新的问题，如虚假信息和缺乏引用。

尽管面临挑战，维基百科的支持者对未来仍持谨慎乐观态度。他们认为，AI技术如果管理得当，可以帮助维基百科改进而不是崩溃。文章最后提到，维基百科的开放性和透明性使其在信息时代具有独特的价值，尽管AI技术的发展可能会改变这一局面。

美国大学在生成式人工智能研究中的角色

美国大学在生成式人工智能的研究和应用中扮演着重要角色。宾夕法尼亚州立大学的研究只是其中一个例子。其他如麻省理工学院、斯坦福大学和加州大学伯克利分校等顶尖学府也在积极探索生成式AI的潜力和挑战。

麻省理工学院的计算机科学与人工智能实验室（CSAIL）一直是AI研究的前沿。该实验室的研究人员开发了多种生成式AI模型，并探讨了这些模型在医疗、教育和商业等领域的应用。斯坦福大学的AI实验室也在研究生成式AI的伦理和社会影响，特别是如何确保这些技术的公平性和透明性。

加州大学伯克利分校的研究人员则专注于生成式AI的技术改进，如提高模型的准确性和减少偏见。这些大学的研究不仅推动了生成式AI技术的发展，也为社会提供了重要的指导和建议。

未来的搜索引擎：结合生成式人工智能

未来，搜索引擎可能会结合生成式人工智能技术，以提高信息传递的对话性和准确性。研究人员建议用户在使用ChatGPT时，应交叉验证信息，并注意其生成信息的真实性和来源。这一建议不仅适用于普通用户，也适用于学术研究和商业应用。

例如，谷歌已经在其搜索引擎中引入了生成式AI技术，以提供更个性化和互动的搜索体验。用户可以通过对话式界面与搜索引擎互动，获取更为详细和定制化的信息。然而，这也带来了新的挑战，如如何确保生成信息的准确性和可靠性。

维基百科也在探索如何利用生成式AI改进其平台。通过使用AI模型帮助新编辑入门，并预测新文章或编辑是否会被推翻，维基百科希望提高内容的质量和可信度。然而，AI生成的内容可能会带来新的问题，如虚假信息和缺乏引用。

综合总结

综上所述，生成式人工智能如ChatGPT在提高信息传递的对话性和个性化方面具有巨大潜力，但也面临着信任和安全问题。用户对ChatGPT的信任度较低，主要是因为其生成的信息往往缺乏参考资料，容易出现错误。相比之下，用户更信任Google和Wikipedia，因为它们提供多样化的搜索结果和透明的参考信息。

美国大学在生成式人工智能的研究和应用中扮演着重要角色，通过不断的技术改进和伦理研究，为社会提供了重要的指导和建议。未来，搜索引擎可能会结合生成式人工智能技术，以提高信息传递的对话性和准确性。然而，用户在使用这些技术时，仍需保持警惕，交叉验证信息，并注意其生成信息的真实性和来源。

总的来说，生成式人工智能技术的发展为信息获取和传递带来了新的机遇和挑战。如何在享受技术带来的便利的同时，确保信息的准确性和安全性，将是未来研究和应用的重点。