キーポイント
先週、OpenAIは最新のAIビデオジェネレーターSoraを発表した。
しかし、このプラットフォームへのプレリリースアクセスを許可されているのは、ほんの一握りのユーザーだけである。
Soraの本物そっくりの出力が悪用される可能性を考えると、OpenAIは発売を急いでいない。
オープンAIがSoraを公開してから数日間、世界中の視聴者が最新のAI動画生成エンジンの能力に驚かされた。ワイアードはそのクリップを “写実的 “と評し、ニューヨーク・タイムズは “ハリウッド映画から持ってきたかのようだ “と評した。
今のところ、Soraはリスクを評価する専門家チームとともに、一握りのアーティストや映画制作者だけが利用できる。しかし、一般の人々がこの技術を試すには、まだ待たなければならない。
Soraはいつ公開されるのか？
現在のところ、OpenAIはSoraの一般公開日を発表していない。
OpenAIのフォーラムでSORAの一般公開のスケジュールについての質問に対する回答には、「SORAはリリースされた製品ではありません。一般公開されていません。ウェイティングリストもありません。リリース予定日もありません。”
ある開発者は、「正式なリリース日はまだありません。しかし、詳細な情報が入り次第、皆さんに必ず報告します” と付け加えた。
続けて、彼らは「OpenAIはブログでSoraを発表したばかりで、まだ研究プロジェクトであり、正式な論文はまだ出ていません。一般的に利用できるようになるまでには、まだ時間がかかりそうだ。” と続けた。
Soraへの早期アクセス
ネット上に出回っているSORAの出力ビデオの多くは、ビデオジェネレーターへの早期アクセス権を持つ少数のユーザーグループによって作成された。
SORAを紹介する投稿の中で、OpenAIは、このプラットフォームへの早期アクセスは、”クリエイティブな専門家にとって最も役立つようにモデルを進化させる方法についてフィードバックを得るために、多くのビジュアルアーティスト、デザイナー、映画制作者に許可された “と説明している。
しかし、残念ながら、SORAの正式リリースに先駆けて使用できるのは、OpenAIによって選ばれた人だけです。
なぜOpenAIはSoraの公開を控えているのか？
Soraを世界に公開する声明の中で、OpenAIは、社外の人々からフィードバックを得るため、そして “どのようなAI機能が地平線上にあるのかを一般の人々に感じてもらうため “に、研究プロセスを早期に共有していると述べている。そしてこう付け加えた：
「SoraをOpenAIの製品で利用できるようにする前に、いくつかの重要な安全対策を講じる予定です。私たちはレッドチーマー（誤報、憎悪的なコンテンツ、偏見などの分野の専門家）と協力しており、彼らはモデルを敵対的にテストする予定です」。
悪用される可能性を考えれば、発売を急がない理由は十分にある。
この技術の悪意ある使用に対する懸念のほとんどは、実在の人物になりすますために使用されることに集中している。ディープフェイクがもたらす民主主義への脅威から、AIを利用した詐欺の新たなリスクまで、Soraが人々を騙したり誤解させたりするために使われないようにすることは、OpenAIとその仲間たちにとって最優先事項である。
一つのアプローチは、プロンプトで特定の人物を参照することを全面的に禁止することだろう。画像生成の関連分野では、すでにこのような戦術の前例がある。例えば、OpenAIのDALL.Eはすでに、有名人の肖像を含む画像の要求を禁止している。
DALL.Eにすでに組み込まれているプロンプト制限機能を実装するだけでなく、オープンAIは、動画がSoraによって生成されたものであることを見分けることができる「検出分類器」を開発中であると述べた。
しかし、テキストを動画に変換する新しいツールを手に入れたいと切望するユーザーにとって、SORAの安全機能のテストと最終化は、早急に行われることはない。
