本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

Cosmos 3:物理AIのための全モーダル世界モデル

記事の要約

NVIDIAは、言語・画像・動画・音声・行動系列を単一の混合Transformerアーキテクチャで統合的に処理・生成する全モーダル世界モデル「Cosmos 3」を発表。理解・生成タスクで最先端性能を達成し、コード・モデル・データセット・ベンチマークをオープンライセンスで公開した。

ソースarXiv Computer Vision著者: Aditi, Niket Agarwal, Arslan Ali, Jon Allen, Martin Antolini, Adeline Aubame, Alisson Azzolini, Junjie Bai, Maciej Bala, Yogesh Balaji, Josh Bapst, Aarti Basant, Mukesh Beladiya, Mohammad Qazim Bhat, Zaid Pervaiz Bhat, Dan Blick, Vanni Brighella, Han Cai, Tiffany Cai, Eric Cameracci, Jiaxin Cao, Yulong Cao, Mark Carlson, Carlos Casanova, Ting-Yun Chang, Yan Chang, Yu-Wei Chao, Prithvijit Chattopadhyay, Roshan Chaudhari, Chieh-Yun Chen, Junyu Chen, Ke Chen, Qizhi Chen, Wenkai Chen, Xiaotong Chen, Yu Chen, An-Chieh Cheng, Click Cheng, Xiu Chia, Jeana Choi, Chaeyeon Chung, Wenyan Cong, Yin Cui, Magdalena Dadela, Nalin Dadhich, Wenliang Dai, Joyjit Daw, Alperen Degirmenci, Rodrigo Vieira Del Monte, Robert Denomme, Sameer Dharur, Marco Di Lucca, Ke Ding, Wenhao Ding, Yifan Ding, Yuzhu Dong, Nicole Drumheller, Yilun Du, Aigul Dzhumamuratova, Aleksandr Efitorov, Hamid Eghbalzadeh, Naomi Eigbe, Imad El Hanafi, Hassan Eslami, Benedikt Falk, Jiaojiao Fan, Jim Fan, Amol Fasale, Sergiy Fefilatyev, Liang Feng, Francesco Ferroni, Sanja Fidler, Xiao Fu, Vikram Fugro, Prashant Gaikwad, TJ Galda, Katelyn Gao, Yihuai Gao, Wenhang Ge, Sreyan Ghosh, Arushi Goel, Vivek Goel, Akash Gokul, Rama Govindaraju, Jinwei Gu, Miguel Guerrero, Elfie Guo, Aryaman Gupta, Siddharth Gururani, Hugo Hadfield, Song Han, Ankur Handa, Zekun Hao, Mohammad Harrim, Ali Hassani, Nathan Hayes-Roth, Yufan He, Chris Helvig, Cyrus Hogg, Madison Huang, Michael Huang, Sophia Huang, Yufan Huang, Jacob Huffman, DeLesley Hutchins, Suneel Indupuru, Boris Ivanovic, Arihant Jain, Joel Jang, Ryan Ji, Yanan Jian, Dongfu Jiang, Jingyi Jin, Atharva Joshi, Nikhilesh Joshi, Pranjali Joshi, Jaehun Jung, Weiwei Kang, Scott Kassekert, Jan Kautz, Ashna Khetan, Julia Kiczka, Slawek Kierat, Gwanghyun Kim, Kuno Kim, Sunny Kim, Kezhi Kong, Xin Kong, Zhifeng Kong, Tomasz Kornuta, Egor Krivov, Hui Kuang, Saurav Kumar, Chia-Wen Kuo, George Kurian, Wojciech Kutak, JF Lafleche, Himangshu Lahkar, Omar Laymoun, Jayjun Lee, Sanggil Lee, Gabriele Leone, Boyi Li, Freya Li, Jiajun Li, Jinfeng Li, Ling Li, Pengcheng Li, Shangru Li, Tingle Li, Xiaolong Li, Xuan Li, Zhaoshuo Li, Zhiqi Li, Hao Liang, Maosheng Liao, Chen-Hsuan Lin, Tsung-Yi Lin, Ming-Yu Liu, Sifei Liu, Zihan Liu, Hai Loc Lu, Xiangyu Lu, Alice Luo, Ruipu Luo, Wenjie Luo, Jiangran Lyu, Martin Ding Ma, Nic Ma, Qianli Ma, Dawid Majchrowski, Louis Marcoux, Miguel Martin, Qing Miao, Ashkan Mirzaei, Shreyas Misra, Kaichun Mo, Durra Mohsin, Hyejin Moon, Pawel Morkisz, Saeid Motiian, Kirill Motkov, Seungjun Nah, Yashraj Narang, Deepak Narayanan, Thabang Ngazimbi, Julian Ouyang, David Page, Yatian Pang, Sehwi Park, Mahesh Patekar, Mostofa Patwary, Marco Pavone, Trung Pham, Wei Ping, Soha Pouya, Shrimai Prabhumoye, Varun Praveen, Delin Qu, Hesam Rabeti, Morteza Ramezanali, Marilyn Reeb, Xuanchi Ren, Kristen Rumley, Wojciech Rymer, Jun Saito, Yeongho Seol, John Shao, Piyush Shekdar, Tianwei Shen, Humphrey Shi, Min Shi, Stella Shi, Kevin Shih, Mohammad Shoeybi, Mateusz Sieniawski, Shuran Song, Alexander Sotelo, Amir Sotoodeh, Sunil Srinivasa, Vignesh Srinivasakumar, Bartosz Stefaniak, Rahul Heinrich Steiger, Shangkun Sun, Jiaxiang Tang, Shitao Tang, Yangyang Tang, Yue Tang, Tolou Tavakkoli, Kayley Ting, Krzysztof Tomala, Wei-Cheng Tseng, Jibin Varghese, Sergei Vasilev, Thomas Volk, Raju Wagwani, Roger Waleffe, Andrew Z. Wang, Boxiang Wang, Haoxiang Wang, Qiao Wang, Shihao Wang, Shijie Wang, Ting-Chun Wang, Yan Wang, Yu Wang, David Wehr, Fangyin Wei, Xinshuo Weng, Jay Zhangjie Wu, Kedi Wu, Hongchi Xia, Summer Xiao, Tianjun Xiao, Kevin Xie, Daguang Xu, Jiashu Xu, Mengyao Xu, Ruqing Xu, Xingqian Xu, Yao Xu, Dinghao Yang, Dong Yang, Hans Yang, Xiaodong Yang, Xuning Yang, Yichu Yang, Yurong You, Zhiding Yu, Hao Yuan, Simon Yuen, Xiaohui Zeng, Pengcuo Zeren, Cindy Zha, Haotian Zhang, Jenny Zhang, Jing Zhang, Liangkai Zhang, Paris Zhang, Shun Zhang, Xuanmeng Zhang, Zhizheng Zhang, Ann Zhao, Yilin Zhao, Yuliya Zhautouskaya, Charles Zhou, Fengzhe Zhou, Shilin Zhu, Yuke Zhu, Dima Zhylko, Artur Zolkowski
Cosmos 3:物理AIのための全モーダル世界モデル
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

NVIDIAの研究チームは2026年6月1日、arXivに技術レポートを投稿し、全モーダル世界モデル「Cosmos 3」シリーズを発表した。このモデル群は、言語、画像、動画、音声、行動系列を単一の混合Transformer(mixture-of-transformers)アーキテクチャ内で同時に処理・生成することを目的として設計されている。

Cosmos 3の重要な特徴は、柔軟な入力・出力構成をサポートする点にある。これにより、物理AI(Physical AI)に不可欠な複数のモダリティをシームレスに統合し、視覚言語モデル、動画生成器、世界シミュレータ、世界行動モデルを実質的に単一のフレームワークに包含する。開発者はタスクごとに専用モデルを用意する必要がなく、単一のバックボーンでマルチモーダル理解から行動生成まで幅広いタスクを実行できる。

評価では、Cosmos 3が多様な理解・生成タスク群において新たな最先端(state-of-the-art)を確立したことが示されている。これは、全モーダル世界モデルが具身エージェント(embodied agents)のためのスケーラブルで汎用的なバックボーンとなり得ることを示唆している。特に、後訓練されたCosmos 3モデルは、技術レポート執筆時点で、Artificial Analysisにより最高のオープンソースText-to-ImageおよびImage-to-Videoモデルに、RoboArenaにより最高のポリシーモデルにそれぞれランク付けされた。これらの第三者評価は、生成品質とロボット制御ポリシーの両面でのリーダーシップを裏付けている。

物理AI分野のオープン研究と実用化を加速するため、研究チームはコード、モデルチェックポイント、厳選された合成データセット、評価ベンチマークをLinux FoundationのOpenMDW-1.1ライセンスの下で公開した。リソースはGitHub(github.com/nvidia/cosmos)およびHugging Face(huggingface.co/collections/nvidia/cosmos3)で入手可能で、プロジェクトサイトはresearch.nvidia.com/labs/cosmos-lab/cosmos3である。本論文はコンピュータビジョンとパターン認識、人工知能、機械学習、マルチメディア、ロボティクスなど複数の分野にまたがり、Aditiを筆頭著者とする多数の共著者によるもので、論文番号はarXiv:2606.02800v1である。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Cosmos 3は言語、画像、動画、音声、行動の5モダリティを単一の混合Transformerアーキテクチャで統合。
  • 理解・生成の多様なタスクで最高性能を更新。後訓練モデルはArtificial AnalysisのText-to-Image/Image-to-Video部門で最高のオープンソースモデル、RoboArenaで最高のポリシーモデルと評価された。
  • コード、モデルチェックポイント、厳選された合成データセット、評価ベンチマークをLinux FoundationのOpenMDW-1.1ライセンスで公開。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。