タカハシノリアキ 
みなさん、おはようございます！タカハシ(@ntakahashi0505)です。
こちらの記事は、タカハシが音声メディアVoicyの「スキルアップラジオ」にて放送した内容から、ピックアップしてお届けします！
今回のテーマは、高度なAI開発を中断するよう求める署名運動です。
なお、以下で実際にお聴きいただくこともできます！
では、よろしくお願いいたします！
AI開発を半年中断するよう求める署名活動
今日はハッシュタグ企画「#気になるニュース」についてお話をします。
紹介する記事は「AI開発、半年中断を」 マスク氏ら1000人超が署名というものです。
どういった内容かというと、全ての企業や研究機関に高度な人工知能（AI）の開発を中断するよう求める署名活動が米国で始まったという話です。
日本時間30日時点で起業家のイーロン・マスク氏や、Appleの共同創設者であるスティーブ・ウォズニアック氏ら1300人以上が賛同していると報じられています。
すでに市場に出回っているもの（GPT4）よりも強力なAIシステムの開発を6カ月間中断するように求めているんです。
「巨大なAI実験を一時停止せよ」と題する書簡
人工知能の責任ある倫理的開発を推進することを目標とした、アメリカの非営利団体フューチャー・オブ・ライフ・インスティチュートが22日付で「巨大なAI実験を一時停止せよ」と題する書簡を公開し、賛同者を募り始めたということです。
書簡の中では、「AI開発の波が続く一方で、社会に重大なリスクをもたらす危険性がある、GPT-4やChatGPTのような生成型AI開発に対し、企業および規制上の保護措置が明らかに不足しています」と主張しています。
どんなリスクをはらんでいるかというと、2つポイントがあると思います。
制御不能なAI開発レース
一つはここ最近のAI開発でいうと、開発者ですら「理解、予測、確実な制御」ができないほど高度なAIを開発しようとしているという指摘です。
つまり作ったAIシステムを制御しきれないリスクがあり、それが社会や人類に対して大きな影響を与えてしまう可能性があるということです。
今、多くの方がご存知の通り、OpenAIによるChatGPTが圧倒的な人気を博して、世界中を一気に席巻しました。
そこにMicrosoftが出資をしていて、検索エンジンBingに搭載しています。そしてさらにMicrosoft Officeや Power Platformに 対しても、対話型AIであるCopilotを搭載していくと報じられています。
それに対してGoogleも対抗して対話式AI Bardを発表していますし、それが検索エンジンGoogleにも搭載されることはすでに予想されています。さらにGoogle Workspaceにも対話型AIを搭載していく道筋が明らかにされています。
このように生成系AIとそれをとりまくサービス群の開発競争が激化しているというところが背景としてあります。
その点に関して書簡の中では次のように伝えています。
我々は文明のコントロールを失うリスクを冒すべきだろうか。そのような決定を、選挙で選ばれたわけでもない技術指導者に委ねてはならない。
AIが人間並みの性能をもつリスク
もう一つのリスクとしてはAIが人間並みの性能を持つことになったということです。
つまり多くのタスクをAIが人間に代わってこなすようになったことです。
現時点のGPT-4でも、たとえばプログラミングをChatGPTが代わりにこなしてくれて、一部のプログラマーはChatGPTなしでは仕事が成り立たないというようなことを言っていたりします。
また、英語の先生役とか翻訳係としてChatGPTが担当できるようになってきています。
同じように、さまざまな専門家の仕事をChatGPTがこなせるということが、かなり現実味を帯びてきています。
このように新しい技術が生まれてくることで、人間がやらなくていい仕事が出てきます。それまでその仕事をやっていた人が仕事を失うということになります。
これまでは、新たな技術が生まれれば新しい仕事も生まれたので、そこに人を移動すればいいのではないかということでやってこれましたが、今回の生成系AIでいうとその限りではなさそうです。
どういうことかというと、生成系AIが代わりにできるタスクがあまりにも広範囲で、その取って代わるスピードはあまりにも速そうだという2点があります。
範囲とスピードに対応できるような労働者のリスキリングや配置転換、保障など十分な対応ができるのかということが課題としてあるわけです。
なので、書簡としては開発をこれ以上じゃんじゃん進める前に、そういった準備をしておくべきなんじゃないかということです。
6ヶ月中断をしてどうするか
この6ヶ月中断をしてどうするかですが、書簡の中では、開発者に対して、政策立案者と協力してAIガバナンスシステムを構築するように求めているんです。
たとえば、規制当局を準備したり、人が作ったコンテンツとAIが作ったコンテンツを区別するためのAI｢電子透かしシステム｣の検討などが挙げられています。
さらに、AIによる経済的・政治的混乱に対処するための｢十分なリソースのある機関｣の必要性を示唆しているんです。
これに対してOpenAIの広報担当者は「私たちはGPT-4のトレーニング終了後、モデルの安全性に関する調整に6カ月以上を費やしました」と明かしていて、今回の書簡に署名しない姿勢を見せています。
OpenAIの歴史
今回の署名運動ですが、OpenAIの歴史を見ると興味深いんです。
非営利企業として設立
元々OpenAIは2015年にイーロン・マスク氏やサム・アルトマン氏らによって非営利企業として設立されました。
イーロン・マスク氏は2018年初頭にOpenAIのCEOであるアルトマン氏に対し「AI開発分野でOpenAIはGoogleよりも致命的な遅れを取っています」と伝えて、OpenAIをイーロン・マスク自身が買収することを提案したのですが、その提案は拒否されました。
マスク氏がそこで手を引いたことで、OpenAIは深刻な資金不足に陥ったんです。
営利企業となってしまった
それに対処するために、OpenAIはAI開発のための資金調達を行う営利団体を新たに設立して、2019年にはMicrosoftから10億ドルの投資を受け入れたという流れです。
当初はOpenAIはGoogleのカウンターウェイトとして機能する非営利団体だったはずなのですが、今は営利企業のようになっていてMicrosoftの指揮の元、クローズドソースで競争激化の急先鋒となっているという話です。
なので、OpenAIが当初のまま純粋な非営利団体だったらどうだったのかという話があります。
今でいうとGoogleは対話型AIでOpenAIに一歩遅れを取っているように見えるんですけれど、Googleはこのあたりのガバナンスや倫理などかなり慎重に進めていていた印象があります。
そこをMicrosoftの出資を受けてOpenAIが突き抜けてしまったので、あわてて追いつこうとしている構図なんですね。
一旦落ち着いて考えるのも一手
今回の声明によって一旦落ち着こうというのは確かにしかるべき動きかなと思います。
実際この大規模言語モデルを実質的に開発できるのは、BigTechに限られる一方で、彼らの加速した競争によって社会に良くない影響を与えるリスクが排除できないとなると、いったん落ち着こうという話になると思います。
一方で、一般のビジネスマンでいうと次々と新しいニュースがこの生成系AIや対話型AIについては飛び込んできて、情報についていくのが正直やっとだと思うんです。
そういう意味では、ここでいったん一呼吸おいて、冷静にじっくりと、これらAIとの向き合い方を考える時間があるというのはいいのではと思います。
まとめ
ということで、今日はVoicy「スキルアップラジオ」の放送から「高度なAI開発を中断するよう求める署名運動」をお届けしました。
ちょうど別のニュースでも、日本の国会で岸田首相に対してChatGPTで作った質問で国会答弁をしたという話がありました。
パフォーマンスだとは思いますが、そういうことをきっかけに国会議員の皆さんも対話型AIのすごさみたいなものを感じていただければすごくいいと思いますし、この生成系AIのインパクトによってどんなリスクがあるのか、それに対してどんな準備をすべきかしっかり議論していただければいいなと思います。
タカハシのVoicyの放送はこちらからお聴きいただけます。
チャンネルのフォロー、コメント、SNSでのシェアなどなど、楽しみにお待ちしております。
では、また。