重要なポイント
カリフォルニア州のAI安全法案はシリコンバレーに亀裂を引き起こした。
業界関係者の中にはこの法案を支持する声もあるが、反対する人もいる。
カリフォルニア州議会を通過したため、ニューサム知事が法案を承認する必要がある。
最先端のAIモデルの「安全かつセキュアな」開発を促進することを目的としたカリフォルニア州の法案は、シリコンバレーの大きな亀裂を露呈した。
この法案を批判する人たちの中には、上級技術幹部、著名な投資家、両党の政治家もいる。一方、SB-1047の支持者には、イーロン・マスク、ヴィタリック・ブテリン、そして最近では、OpenAI、Google、Anthropic、Meta、xAIなどのAI企業の現従業員と元従業員の連合などがいる。
SB-1047 とは何ですか?
ますます強力になる機械学習モデルの社会的影響に関する高まる懸念に対処するために設計されたSB-1047AIシステムの倫理的な開発と展開に関するガイドラインを確立することを目的としています。
主な規定には、意思決定プロセスに AI を取り入れたい開発者や組織に対する透明性と説明責任の要件が含まれます。
この法案では、AIがさまざまな業界に与える影響を監視し、倫理基準の遵守を確保するために州全体の監督委員会を設置することも提案されている。
SB-1047 が可決されれば、Anthropic、Microsoft、Google、Meta、OpenAI など、カリフォルニアに拠点を置く世界有数の AI 企業の一部に影響が及ぶことになります。
AI 労働者がカリフォルニア州の AI 法案を支持
カリフォルニア州議会を通過したSB-1047を法律として発効させるには、ギャビン・ニューサム知事の承認のみが必要だ。自身の立場を決める期限が近づくにつれ、ニューサム知事は両陣営から圧力を受けている。
公開書簡の中で知事に対し、主要なAI研究所の現職および元職員113名が法案への支持を表明し、カリフォルニア州のAI安全規制の取り組みにおいて「意義ある前進」となると述べた。
「最も強力なAIモデルは、生物兵器へのアクセス拡大や重要インフラへのサイバー攻撃など、近い将来に深刻なリスクをもたらす可能性があると我々は考えています」と書簡には記されている。「最先端のAI企業が、最も強力なAIモデルが深刻な危害を引き起こす可能性があるかどうかをテストし、そうした企業がそのようなリスクに対する合理的な安全策を講じることは、実行可能かつ適切です。」
業界リーダーからの分離
最近の書簡は、カリフォルニア州のAI法案に反対を表明しているAI業界のトップ幹部の一部の立場とは大きく異なるものとなっている。
例えば、OpenAIの最高戦略責任者ジェイソン・クォン氏は、AIの安全性は各州ではなく連邦レベルで規制されるべきだと主張している。クォン氏は、独立して法案を進めることで「カリフォルニアのAIの世界的リーダーとしての独自の地位」が脅かされる可能性があると述べた。法案の起草者であるカリフォルニア州上院議員スコット・ウィーナーに宛てた手紙の中で。
一方、Google Brainの共同創設者アンドリュー・ン氏はSB-1047は「曖昧」かつ「有害」であり、「開発者が法律違反を回避する方法がわからない巨大なグレーゾーン」を生み出すと主張している。
この法案によって最も影響を受ける大手AI開発企業の中で、アントロピックだけが慎重な支持を表明している。SB-1047 の場合。
ちなみに、この法案を支持する書簡に署名した人の中には、OpenAIやGoogleに勤務する人もおり、この法案が、同じ利益を持つ人々の間でもいかに意見が分かれるかを浮き彫りにしている。
この分裂は政治レベルでも反映されている。この法案はカリフォルニア州議会を支配する民主党の支持を得ているが、ワシントンの一部の議員は SB-1047 に批判的である。
下院民主党、カリフォルニア州の議員らと分裂
ナンシー・ペロシ下院議長はこの法案は「善意に基づいているが、十分な情報に基づいていない」。
一方、クォン氏の発言に同調して、ゾーイ・ロフグレン下院議員は次のように書いている。ウィーナー氏に対し、この件に関する連邦政府のガイドラインが現在欠如していることを考慮すると、この法案は「時期尚早」であるという懸念を表明するよう求めた。
さらに、「SB 1047は、誤報、差別、同意のないディープフェイク、環境への影響、労働力の置き換えなど、実証可能なAIのリスクをほとんど無視し、仮説上の存在リスクに対処することに大きく偏っているようだ」と彼女は付け加えた。
