作者:Anna Fellä nder，anch创始人。AI，伦理AI治理小组委员会委员。

2023年2月，欧洲议会人工智能伦理领域顾问安娜·费兰德(Anna Fellä nder)在欧盟委员会官网发表了《Chatgpt的快速进入——迫切需要政府任命一个负责任的人工智能权威机构》，提出了为什么要对生成性人工智能进行监管的背景、原因和解释。笔者认为，这篇文章很可能代表了未来欧盟委员会对生成式人工智能的监管方向之一。我们看这篇文章主要是看国际趋势。

全文如下:

新发布的人工智能方案ChatGPT，以一种全新的方式挑战所有人。随着生成式人工智能系统创造的机遇，我们也面临着一个历史性的十字路口:

即究竟是人工智能控制人类，还是人类控制人工智能。

瑞典的企业和当局(因为Anna Fellä nder在瑞典)需要对人工智能采取伦理的方法，即伦理上的考虑，但最重要的是建立一个支持这种发展的风险评估框架，以指导符合人类价值观的人工智能解决方案的发展。

此外，欧盟人工智能立法对责任人工智能的发展指日可待，政府迫切需要成立一个组织来发展责任人工智能。

ChatGPT等生成式人工智能系统(1)首先，它创造了人们期待已久的人工智能民主化，更多的人可以参与到这项技术带来的迭代中来，在历史数据上创造算法生成的新内容。组织实现AI技术价值的门槛显著降低，新的创新商业模式层出不穷，可以有效加强客户与人的关系。

(2)同时，所有个人和社会每天都面临着不受监管的人工智能解决方案所带来的道德和法律问题。原因之一是人工智能模型的学习是基于历史数据的，很可能存在不必要的偏见，可能导致社会排斥和歧视，包括其他侵害。

例如，当我们个人批准在特定情况下使用我们自己的数据时，我们可能没有意识到当我们自己的数据与其他数据结合时，算法是如何创建侵犯个人隐私的意见的。

注意:这对公司和政府来说是非常昂贵的，例如，投资可能会被撤回或名誉可能会受损。最近的案例显示，2021年，接受父母保险的父母因人工智能解决方案而被错误地指控欺诈。此外，还测试了一个基于OpenAI的GPT-3的医疗聊天机器人，结果是建议病人自杀。

参考:GPT-3医疗聊天机器人告诉自杀测试患者自杀

生成式人工智能系统比其他人工智能解决方案具有更高程度的道德风险暴露。原因之一是，生成式人工智能系统的使用往往是通过API进行的，这使得解决方案的透明度很低，很难控制其发展。

与此同时，道德和法律的违反通常会微妙而突然地发生。尽管这些违规行为可能太小而无法检测到，但它们极有可能造成指数级损失。

一个例子是深度伪造，例如，它被用来操纵视频或照片中的人脸和声音。需要注意的是，生成式人工智能模型通常以API的形式提供，这可以使用户更容易获得和使用该技术，这可能会增加滥用的风险。

诚然，基于API的生成式人工智能模型是没有风险的，但它们的使用和训练数据会让它们有风险。

欧盟的人工智能立法，即《人工智能法》将于2024年生效。

《人工智能法》的目标是让公民和消费者感受到信任，维护欧盟的价值基础，包括人权。在关于人工智能的法律中，欧盟委员会提出，成员国必须任命或建立至少一个监督机构，以确保“遵循必要的程序”。

随着生成式人工智能系统的巨大潜力，特别是在医疗方面，如疾病的正确诊断和最佳治疗，关键是要有一个可用的风险评估框架，并任命一个负责的机构。

人工智能的伦理框架为所有部门创造了一个高度创新的环境。因此，迫切需要相关机构任命这个负责机构，并提供一个风险评估框架，这样瑞典企业和瑞典当局就不会像GDPR那样对人工智能法案抱有戒心。

[参考文献]

https://futurium . EC . Europa . eu/en/European-ai-alliance/blog/chatgpts-rapid-entry-urgent-government-appoint-authority-responsible-ai

人工智能:如果道德风险得到解决，潜力巨大|新闻|欧洲议会(europa.eu)

欢迎来到anch。艾& # 8211；人工智能与公共行政中的平等----国家反腐败委员会的报告。大赦国际和瑞典性别平等局。

温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信，我们会及时处理和回复。