美国时间3月25日,OpenAI官方发布了关于3月20日ChatGPT服务暂时中断的调查报告,并表示1.2%的ChatGPT Plus用户可能存在数据泄露的情况。
根据OpenAI官网公告,3月20日之前,一个名为Redis-py的开源库出现错误,导致缓存问题,导致用户看到其他人聊天记录的片段,甚至向一些活跃用户显示其他用户信用卡的后四位数字、有效期、姓名、邮箱和支付地址。
本来这种BUG可能只在零星用户中出现,但令人伤脑筋的是,20日上午,OpenAI在对服务器进行更改时出现了错误,导致取消Redis的请求激增,问题进一步加剧,于是出现了这种“1.2%”的可能性。
根据OpenAI官员的说法,有两种可能的方式来暴露这些信息:
1.一定时间内的支付确认邮件可能会发送给一些错误的用户,这些邮件包含信用卡的后四位数字。
2.在一定时间内点击“我的帐户”-“管理我的订阅”可能会导致另一个活跃用户的姓名、电子邮件地址、付款地址和信用卡的后四位数字被泄露。
OpenAI表示,已经联系了这些可能泄露信息的用户。
网站:https://openai.com/blog/march-20-chatgpt-outage(网页自动翻译或不准确)。
为了防止这样的事情再次发生,OpenAI还在博文中解释了他们已经采取的行动:增加“冗余检查”,确保提供的数据与用户匹配;改进修复了Redis集群在高负载下抛出错误的可能性& # 8230;…但也强调他们的Redis开源维护者是一个优秀的合作者。
虽然问题已经解决,但是仍然有大量的网友仍然质疑OpenAI的安全性,也有网友问为什么我们不能用GPT4来检查代码错误。
或许是为了安抚ChatGPT用户的情绪,OpenAI首席执行官山姆·奥特曼(Sam Altman)当天立即接受了媒体的专访。用户数据泄露事件虽然一字不提,但反复强调“AI安全”。
他提到了以下四点:
1.人工智能语言模型(如GPT)的发展和完善需要一个包括公众反馈在内的迭代过程,重点解决偏见,考虑AI安全性和一致性。
2.人工智能的进步,尤其是GPT技术的进步,正在改变编程的本质。需要仔细考虑人工智能的安全性,语言输出的监控,偏见的化解。
3.人工智能尤其是神经网络的发展,可能会超越人类的智能,大大提高生活质量,但也带来了巨大的风险和挑战,必须通过不断研究和发展人工智能的安全性和一致性来解决。
4.OpenAI是一家盈利性公司,致力于强大的人工智能技术,同时对安全问题保持透明。
Open AI的Mira Murati也在其官网发表了自己的看法,“人工智能系统正在成为日常生活的一部分。关键是要确保这些机器符合人类的意图和价值观。”现在,他们自己创建的ChatGPT正在挑战他们对公众的承诺。
随着人工智能在人类工作生活中的使用频率越来越高,AI安全也应该是我们现在和未来长期关注的问题。AI技术不仅要考虑跑得快,还要考虑不翻车。
按照openAI官方的解释,这是因为缓存问题导致用户信息泄露。但是,这个错误在互联网行业并不是第一个。
早在2015年圣诞节,Steam也因缓存问题泄露了约3.4万用户的个人信息。OpenAI在AI潜在安全性的研究上投入了巨大的精力和金钱,却被一个常见的老问题绊倒。虽然“成大事者,不拘泥于细节”,“天下难事,必易其事;天下大事,必在细处。”希望以后OpenAI不要再出现这样的问题。
我们问GPT-4如何解决AI安全问题,它回答说:
在人工智能(AI)领域,确保安全性非常重要。以下是解决AI安全问题的一些建议和方法:
可解释性和透明性:人工智能系统的设计应该是可解释的,以便研究人员、用户和监管机构可以理解其决策过程。提高透明度有助于确保AI系统的行为符合预期,并且很容易发现潜在的安全风险。
数据安全和隐私:AI系统通常需要大量数据进行训练。保护这些数据的隐私和安全非常重要。采用加密、数据脱敏和差分隐私等技术,确保数据在处理、传输和存储过程中得到保护。
鲁棒性和抗攻击能力:AI系统要有抵抗对手的能力,包括识别和抵抗对抗性攻击和欺骗性输入。研究鲁棒性训练方法,提高系统的抗干扰能力。
可审计性:建立可审计的AI系统,记录关键决策过程。这将有助于追踪潜在问题,确保合规,并为今后纠正错误和不当行为提供基础。
伦理和法律合规:确保AI系统符合伦理原则和法律法规,遵循公平、透明和可解释的原则。研究AI伦理,制定相应的政策和方针。
持续监控和更新:随着技术的进步和新的安全威胁的出现,需要持续监控和更新AI系统,以确保其安全性和有效性。
多学科合作:鼓励不同领域的研究人员、政策制定者、企业家和公众参与AI安全问题的讨论。跨学科合作将有助于制定更全面的安全战略。
开放研究和共享:开展开放和合作的研究,共享与AI安全相关的知识、技术和最佳实践。这将有助于整个AI领域在安全问题上取得进展。
通过积极采取这些措施和方法,我们可以降低AI领域的安全风险,促进人工智能的健康可持续发展。
希望包括OpenAI在内的人工智能公司能够在保障AI的安全方面做出更多的努力,让AI行业更加健康的发展。
作者:鹿人贾ChatGPT排版:鹿人
温馨提示:注:内容来源均采集于互联网,不要轻信任何,后果自负,本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权,请给我们来信,我们会及时处理和回复。
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
如有疑问请发送邮件至:goldenhorseconnect@gmail.com