HawkInsight

  • 联系我们
  • App
  • 中文

AI治理尚需软硬兼施:新加坡推出全新GenAI治理草案

1月17日,新加坡通讯及新闻部(MCI)部长杨莉明于达沃斯世界经济论坛会上分享了该国近日专为GenAI量身定制的《AI治理框架范本》草案。

生成式人工智能(GenAI)的出现为今天的数字经济带来了极大的机遇和挑战,不仅彻底颠覆了既有的经济结构,在产生了大量全新就业机会的同时,还夺去了众多传统岗位。针对人工智能(AI)的伦理合法性,学界和业界均产生了众多疑问和担忧。

1月17日,新加坡通讯及新闻部(MCI)部长杨莉明出席达沃斯世界经济论坛会。会上,杨莉明分享了新加坡对于AI治理的立场。

新加坡通讯及新闻部(MCI)部长杨莉明出席达沃斯世界经济论坛会

新加坡政府表示,治理AI须“软硬兼施”,在针对“深伪(deepfake)”等高风险科技制定法律的同时,在其他新兴领域采取较宽松的政策,促进其创新和发展。

因此,在新加坡AI验证基金会(AIVF)和信息通信媒体发展管理局(IMDA)的共同努力下,双方在2020年终次更新的传统AI现有框架的基础上,于本月16日合力推出了专为GenAI量身定制的《AI治理框架范本》草案。目前,该框架正在公开接受审查,并欢迎国际社会建言献策,预计将于2024年年中定稿

据悉,草案内容涵盖问责、数据、开发与应用、举报、测试、安全、内容来源、研究、公共利益9大方面,鼓励从业者根据共同标准,采用第三方测试,是全球首个针对GenAI的综合性治理架构

AIVF和IMDA共同推出《AI治理框架范本》草案

由于GenAI的开发过程涉及各行各业,因此必须制定明确的问责机制。草案建议,模型开发者应负责协调,确保各环节顺利进行。

鉴于驱动GenAI的数据至关重要,生产者需使用可信赖的“数据集(dataset)”,以维护个人隐私及版权。另外,为防止GenAI被滥用于传播虚假信息,多国政府正使用“数位浮水印”及“密码来源”等两种标记法,标识原创或可信赖的内容,协助用户辨识内容来源及生成方式。

杨莉明认为,新加坡的GenAI技术仍处于初期阶段,上述治理架构将着重于指导原则及识别重点;但是,治理还需与国际伙伴进行交流协作,才可逐渐完善。

在AIVF目前的50多名成员中,谷歌、IBM、微软等位于GenAI创新前沿的国际巨头。有了这些大型企业的参与,或可为新加坡的AI发展带来更广的国际视野。

据了解,此次论坛会由政治风险研究和咨询公司Eurasia Group的总裁Ian Bremmer主持,参与讨论的除了杨莉明,还包括欧盟委员会负责价值与透明度事务的副主席Věra Jourová、美国白宫科学和技术政策办公室主任Arati Prabhakar和微软副董事长兼总裁Brad Smith。

Jourová指出,AI若用于误导选民,将是对民主选举的致命打击,因此,欧盟与AI开发者签署协议,要求标明由AI生成的内容,让人们自行判断。

Prabhakar说:”AI如其他战略利益领域一样,是不同国家之间竞争的一个筹码。尽管如此, AI的发展十分迅速且不可预测,若要让管制跟上步伐,需要不同国家的政府、业者和公民社会一同合作,确保其服务于民众利益。“

目前,AI的应用及其风险仍有许多未知,国际社会仍在观望和定义之中,人类如何稳步迈向GenAI的智能未来,还需企业和政府合力应对。

免责声明:本文观点来自原作者,不代表Hawk Insight的观点和立场。文章内容仅供参考、交流、学习,不构成投资建议。如涉及版权问题,请联系我们删除。