こんにちは！半田貞治郎です。
OpenAIは12月14日、グーグル元CEOエリック・シュミット氏とのパートナーシップの元、超人的AIシステムの整合性と安全性に関する技術研究を支援することを目的に1000万ドルの助成金プログラム「Superalignment Fast Grants」を開始したことを発表しました。このプログラムでは、10万米ドルから200万米ドルの範囲で、学術研究者、非営利団体、個々のエンジニアや科学者に助成金が提供されます。また、大学院生向けには15万米ドルのフェローシップも用意されています。助成金の研究の方向性としては、弱い監督から強いモデルの一般化、モデル内部の解釈可能性、AI支援による人間の監視、モデル推論チェーンの正直さと信頼性などが含まれています。OpenAIはこの助成金とトップレベルの人材を集めるビジョンを通じて、高度なマシンが人類に利益をもたらすように整合性を保つための進歩を加速することを期待しています。彼らは、超知能AIの出現がありうると考えており、これには大きな利益とリスクが伴うと述べています[1][2][4]。
Citations:
[1] https://openai.com/blog/superalignment-fast-grants
[2] https://www.maginative.com/article/openai-launches-10-million-in-research-grants-for-aligning-superintelligent-ai/
[3] https://techcrunch.com/2023/12/14/openai-thinks-superhuman-ai-is-coming-and-wants-to-build-tools-to-control-it/
[4] https://openai.com/research/weak-to-strong-generalization
[5] https://www.reddit.com/r/singularity/comments/18id8gl/openai_is_launching_10m_in_grants_to_support/
