近期和一名法律界的友人聚餐，难不免要聊起人工智能（AI）的迅速发展对各行各业的影响。友人很期待如何借助人工智能，改善工作流程和提升生产力，却表示不是十分在意人工智能的伦理课题。
看见笔者露出些微惊讶的表情，友人马上说，身为一名律师，自然会将客户的隐私摆在首位。
笔者并不怀疑友人的职业操守，但不免思考，人工智能令人炫目的发展，是否让我们轻忽了治理面向。
科技巨头或借AI加深垄断地位
罗马不是一天建成，人工智能也不是近年才开始发展的技术。这两年之所以引起高度关注，得归功于生成式人工智能（GenAI）的面世。
生成式人工智能根据文本提示生成文字、图像和视频，还能不断从互联网上的文档和照片等资料学习。
OpenAI于2022年发布人工智能聊天机器人ChatGPT，与以往的聊天机器人相比，ChatGPT与用户互动的方式，更接近人与人之间的互动，让一般人惊讶之余，也惊艳不已。
ChatGPT横空出世，刺激科技巨头大手笔投资生成式人工智能。例如在今年3月，亚马逊宣布投资起步公司Anthropic 27亿5000万美元（约37亿新元），为亚马逊历来最大笔的风险投资交易。
Anthropic是AI聊天机器人Claude的开发者，它与获得微软支持的OpenAI所开发的大型语言模型GPT，及谷歌的Gemini，互相竞争。
包括脸书母公司Meta和苹果公司，这几家科技巨头都竞相要把生成式人工智能，整合到旗下产品的功能组合中，以确保自己不会被市场淘汰。
彭博行业研究今年3月估计，到2032年，生成式人工智能有望发展成规模达1.3万亿美元的市场，年复合增长率（CAGR）大约43％。整体市场涵盖硬件、软件、服务、广告和游戏领域的销售。
研究还指出，为了抓紧商机，Meta、微软、谷歌母公司Alphabet 和亚马逊，都将倾全力训练它们的大型语言模型。
如果这几家科技巨头主导和控制了人工智能的发展，它们在经济层面的优势地位，更无可取代。
在特朗普任内当过司法部长的巴尔（William Pelham Barr）近期投稿《华尔街日报》说：“科技巨头扩大主导地位的套路大家耳熟能详。一旦它们在主要市场建立起垄断或接近垄断的地位，就会进入与核心市场有关的临近市场，并力求获得竞争优势。”
巴尔指出，科技巨头借着大量投资新兴企业与技术，进入新领域，还可防止能够颠覆其主导地位的新对手出现。他因而认为，有必要仔细审查科技巨头对人工智能起步公司的投资，以及它们的合作关系。
现任和前员工发公开信 指科技巨头试图回避监督
最新消息指出，美国联邦贸易委员会（FTC）打算调查微软收购Inflection AI，是否规避了政府的反垄断调查。
除了引发垄断市场和技术的疑虑，科技巨头会否将财务收益置于监管之上，忽略人工智能的风险，也是令人担忧。
延伸阅读
OpenAI和谷歌DeepMind的13名现任和前员工于星期二（6月4日）发表了一封公开信，对先进人工智能的危险提出警告，他们还指责公司逃避监督。
信的内容指出，公司掌握着了技术的风险信息，却不须要向政府披露太多。由于员工都签署了保密协议，不能公开表达他们的忧虑。
他们还说，一般的“吹哨人”保护措施是不够的，因为它们主要针对非法活动，而人工智能的许多风险尚未受到监管。
这13人，约一半是匿名发表。他们担心遭受报复，更担心人工智能进一步加剧现有的不平等、操纵和提供误导信息、人工智能自主系统失去控制，导致人类灭绝等风险。
上个月，OpenAI才解散了成立不满一年的人工智能风险控管团队Superalignment，团队的“领头羊”，也是OpenAI共同创始人和首席科学家的苏茨克弗（Ilya Sutskever）离开了公司。
去年11月，OpenAI董事会开除创始人奥尔特曼（Sam Altman）的72个小时“宫斗”中，苏茨克弗是要角之一。据报道，两人就如何快速开发生成式人工智能、如何将产品商业化，以及减少对公众的潜在危害等问题，发生冲突。
欧盟通过全球首部AI法案
更早在去年7月，美国联邦贸易委员会对OpenAI展开全面调查，以确保ChatGPT不会通过生成虚假信息和滥用数据，损害消费者利益。
人工智能公司渴望得到数据来训练它们的模型，一般人在工作中使用生成式人工智能的最大的挑战之一，是无意中暴露了敏感资料。美国国会众议院就以安全为由，禁止职员使用免费版的ChatGPT和微软的AI助理“智能副驾”（Copilot）。
美国、英国、欧盟和联合国都在讨论全面的人工智能安全法规，今年3月通过的《欧盟人工智能法案》（EU AI Act）是全球首部相关法案。
该法案按不同风险程度，限制人工智能的应用。被划入高风险领域的包括自动驾驶汽车、医疗设备、金融服务，以及教育等。
法案也对生成式人工智能施加了严格限制，包括要求尊重欧盟版权法、如何训练模型的透明披露、例行测试和充分的网络安全保护。
美国参议院则发布了一份路线图，指导国会的人工智能政策。路线图提出了一系列措施，以鼓励人工智能创新，同时降低潜在风险。建议包括由联邦政府投资鼓励人工智能研发、确保应用遵守现行法律并找出任何监管漏洞、为员工制定培训计划等。
相较于欧盟的法案，美国采取了较为宽松的监管方式，但仍保留了相当大的空间，国会在有必要时可以探讨更多立法和监管措施。
新加坡方面，政府认为，现行法律和法规已经提供了一些保护，例如若符合公众利益，可以要求更正使用人工智能生成的假消息。
我国今年成立了网络安全先进技术中心（Centre for Advanced Technologies in Online Safety，简称CATOS），加强研究和应付人工智能生成的错误信息、线上仇恨和歧视。
人工智能的技术发展日新月异，各地政府采取的安全措施是否足够，没有人能给出肯定的答案。人工智能可以为我们带来的诸多好处，毋庸置疑，人工智能导致人类灭绝或许只是科幻片的场景，虽难以想象，但也不希望有朝一日成真。
在早报应用继续阅读
