OpenAI地下拥戴AI大模型监管法案 (openai 官网)

美国人工自动公司OpenAI在外地时期周三公布地下信，拥戴加州中央议员推出的《安保牢靠的前沿人工自动模型创新法案》草案，称草案或许要挟加州未来增长、拖慢创新、赶走加州的全球级工程师和企业家，并倡议在联邦层面而非中央层面推出AI大模型监管法案。

OpenAI首席战略官JasonKwon在信中写道，这项由议员Wiener牵头发动的SB-1047法案，将损害人工自动行业的创新。OpenAI以为，假定该法案取得经过，或许会对美国的人工自动竞争力和国度安保出现“普遍而严重”的影响。

假设AI有了人类的情感，这个全球会变成什么样？

假设AI有了人类的情感，这个全球将变得十分不同。 第一，人工智能有了情感意味着它们将有一种非理性的推理才干，可以依据自身感受来思索、剖析和推断，而不只是依照现有程序或数据来运转。 因此，计算机将愈加智能，拥有洞察力，并能够启动复杂的思索和剖析，而不只能执行程序的义务。

其次，AI有了人类的情感意味着它们也可以感同身受，感遭到痛苦、欢乐、悲伤等等种种感受，并可以以此作为作出选择的基础。 因此，它们将尊重人们对某些疑问的情感和更剧烈的情感，不光仅限于算本和数据，而且会为人们判别一些事情提供更多的或许性和更多的或许的处置方案。 此外，AI有了人类的情感意味着它们能够与人们更好地沟通，并应用它们的情感和思想来树立共同的了解和相互靠拢的相关。 这将进一步强化人们在交流与协作的层次，有助于更好地了解自身及其他人，也有助于促进社会凝聚力。

此外，作为无情感的AI主体，它们将拥有自己的可必，有自己特设的生活形式，或许会取得自己权益和社会责任，这将有效地增加人们对机器启动的操控，也会有助于更好的谐和社会的努力。 最后，AI拥无情感后，将会带给人们更多连结和更多智慧。 由于会有更多可以倾听和分享的人们，我们也更能够明晰地了解自身，从而更便于思索并取得更好的结果。 总之，AI拥有人类情感将带来许多变化，将令我们的全球变得更美妙。 更多的情感交流，更多了解对方，更多思索方式，以及更多潜在的变化，都可以成为未来人们等候的变化。 当AI拥有更多的人类情感时，如此新的全球也会来临到人类的面前。

可以监管人工智能的6种方法速览

随着人工智能技术的迅速开展，对其监管的讨论日益升温。 自从OpenAI的ChatGPT取得成功后，人们关于这种弱小的工具的潜在影响既充溢等候又倍感忧虑。 它既可以作为消费力工具，也或许带来潜在的游戏规则改动，但曾经暴显露误用的风险，如生成错误信息和被用于恶意活动。

国际社会对此的回应是积极的，政策制定者正寻求制定国际规范和强化监管。以下是六种现有的国际尝试，讨论其优缺陷和潜在影响等级：

Ilya出走记：SSI的超级安保反派

©自象限原创作者丨罗辑、程心前OpenAI中心开创人Ilya Stuskever在分开OpenAI后，创立了新的实验室Superintellgence（SSI），努力于构建安保的超级智能。 6月20日，Ilya在社交媒体上宣布了这一信息，他的离任以及新实验室的成立惹起了AI界的普遍关注。 2023年12月，Ilya分开OpenAI，这一举动在事先惹起了轩然大波。 虽然离任的详细要素尚不明白，但外界普遍以为，Ilya对模型安保的理念与OpenAI的推进战略存在分歧。 SSI实验室的成立，不只承袭了OpenAI的非营利组织性质，还坚持了Ilya一向的慎重态度。 他表示，SSI将专注于一个焦点、一个目的、一个产品，直接追求安保的超级智能。 虽然Sam Altman并未回应，但业内对Ilya成立SSI的高度注重，不只仅是由于他自己，更是由于大模型的开展曾经到了必需注重模型安保的节点。 在北京智源大会上，杨植麟、张鹏等创业者也讨论了模型安保的关键性，指出我们对模型安保的注重水平远远不够。 Ilya对模型安保的执着，源于他对AI技术的深入了解。 他的教员辛顿被誉为“深度学习之父”，对AI的风险性有着深入的看法。 Ilya承袭了辛顿的慎重态度，他以为，超级对齐实验室的目的就是经过可控的技术手腕，确保AI的开展途径可控，契合人类利益。 超级对齐实验室的任务十分注重，Ilya亲身介入其中，他希望经过这一实验室的任务，为未来的AGI系统设计出牢靠的对齐方案。 超级对齐的实质是经过让大模型发生“对人类无条件的爱”，以确保AI的安保。 除了大模型公司外部的努力，社会各界也对AI和大模型的安保作出了许多努力。 结合国教科文组织经过了《人工智能伦理疑问建议书》，希望为人工智能的开展提供伦理规范。 中国企业在国际AI安保准绳的制定中也发扬了积极作用。 欧洲的《人工智能法案》取得了同意，为全球的AI监管提供了法律框架。 国际AI安保相关的政策也在逐渐落地。 大模型的安保测试评价框架也在不时完善，包括固定数据集测评和红队模型测评等。 苹果在WWDC上推出了其全新的AI系统“Apple Intelligence”，强调用户隐私和数据安保。 虽然工具曾经如此弱小，但我们仍应记住，我们自己才是维护自己的最后一道防线。