新しいフレームワークMechELKは、メカニズム的解釈可能性を利用して大規模言語モデルから隠れた知識を抽出します。スパースオートエンコーダ、因果プロービング、表現工学を組み合わせ、84.7%の精度を達成し、既存の手法を上回ります。このフレームワークは、モデルが誤った回答や回避的な回答をする場合に特に効果的です。
AI ニュース速報
リアルタイム監視
最新ニュース
信頼できる情報源、出典、権限、サイト内閲覧を保ちながら、AI の変化を読める情報に圧縮します。
最新ニュース
発音可能で類型論的に妥当、かつ意味的に構造化された人工語彙を生成するモジュラーフレームワークを提案。PHOIBLEから音素インベントリをサンプリングし、交換可能な音韻文法(決定論的、OT、MaxEnt)の下で語形を生成し、Swadesh-Leipzig-Jakartaオントロジーを介して意味を割り当てる。評価では、確率的文法が音韻配列の一貫性と類型論的リアリズムにおいて決定論的およびランダムベースラインを上回ることを示した。
大規模言語モデル(LLM)の影響力が拡大するにつれ、その意思決定を理解することが不可欠になっています。本論文では、低コストで線形プローブを用いてLLMの埋め込み内の概念を検出し、モデルが「考えている」内容を監視する手法を提案します。概念定義、プローブ訓練、およびコンテキスト間追跡のプロセスを4つの概念と3つのLLMで実証し、スケーラブルなモデル透明性への道を開きます。
マルチモーダル学習では、収束の速いモダリティが最適化を支配し、他のモダリティが未学習となるモダリティ不均衡が問題となる。既存手法は弱いモダリティを強化するか勾配を調整するが、強いモダリティの最適化能力を犠牲にすることがある。本論文では、ラベル側の設計からマルチモーダルバランスを促進する初めての手法であるBalanced Multimodal Label Reshaping(BMLR)を提案する。BMLRはクロスモーダルラベル空間を再形成し、各モダリティの写像困難度を均等化することで、モダリティ間の相互作用を促進し、リッチなクラス間情報を注入する。実験により、BMLRは一貫してマルチモーダル性能を向上させ、多様なモデル設計と互換性があることが示された。
メタゲノム分類アノテーションは環境サンプル中のDNA断片の微生物起源を特定する。従来の配列類似性に依存する手法は微生物多様性と参照データベースの不完全さに制約される。TaxDistillは知識蒸留フレームワークを提案し、5億パラメータのゲノム基盤モデルGenomeOceanを教師ネットワークとして深い意味特徴を抽出し信頼度に基づくソフトラベルを生成、軽量な学生ネットワークに蒸留することで初期検索ツールによるラベルノイズを低減する。7つのCAMI2データセットでの実験により、TaxDistillは既存のベースラインをほとんどのシナリオで上回り、例えば消化器データセットではMMseqs2のF1スコアを0.763から0.941に改善した。
PrismFlowは、Koopmanに着想を得た動的エキスパートを用いて標準フローマッチングの推定器平滑化を補正し、時系列の高周波・微細構造を回復する新しい手法である。複数のベンチマークで最先端性能を達成し、Context-FIDが15.6%、判別スコアが38.6%向上した。
本稿では、トークンの初期化と訓練に幾何学的制約を統合し、時系列トークンの連続性と順序性を保持する戦略COMを提案。複数のベンチマークでトークンベースの時系列LLMの性能を一貫して向上させる。
本研究では、4人用不完全情報カードゲームBig 2における自己対戦強化学習フレームワークを開発し、PPOがモンテカルロQ近似、SARSA、Q学習を上回る性能を示した。適度なエントロピー正則化がPPOの過度な決定論的方針を防ぎ、現在方針自己対戦がチェックポイント自己対戦や固定対戦者訓練より優れたカリキュラムを提供する。Big 2は不完全情報、マルチプレイヤー相互作用、遅延報酬、可変アクションセットにおける深層強化学習の制御可能なベンチマークとして有用である。
TRACEは、ツール選択を逐次意思決定問題として定式化する軌道認識型LLM推論エージェントであり、構造制約下での将来を見据えた最適化を実現し、ADMET最適化タスクで高い成功率と特性改善を達成する。
最近の研究では、強化学習(RL)が教師あり微調整(SFT)よりも事前の能力を効果的に保持することが示されています。本論文はこれをメカニズムレベルに拡張し、微調整中の回路劣化を測定する「差分回路脆弱性」を導入します。Qwen2.5-3B-Instructを科学質問応答に適用した実験では、SFTはタスク適応が速いものの回路破壊と忘却が大きく、RLは回路を保持する代わりに適応が遅いことが明らかになりました。結果は、回路保持がRLの破局的忘却に対する頑健性を説明することを示唆しています。
本研究は、TradeArenaテストベッドを用いて、金融意思決定環境における大規模言語モデル(LLM)エージェントの行動アライメントと表現ダイナミクスを分析する。計画埋め込みのドリフトや有効ランクの収縮など、測定可能な障害前兆を特定する。構造化されたリスクフィードバックは外部アライメント信号として機能するが、普遍的な性能向上策ではない。51銘柄の日中実験では、LLMの根拠が相関の高い資産への集中エクスポージャーを正当化するという相関の盲点が明らかになった。
ROMEやMEMITなどの知識編集手法は、事実固有の重み変更にもかかわらず共通のメカニズムに依存していることが明らかになった。編集された重みに学習されたバイナリマスクは70%以上の編集を逆転させ、共通の機能的部分空間を示す。このマスクは後期層の過剰注意を排除することで機能し、編集時に注入すると成功率が98%から38%に低下する。編集は知識を上書きするのではなく抑制するため、関連事実への伝播に失敗する。この研究は不正な編集の検出と防御に役立つ。
VFEAgentは、入力画像と問題記述から直接有限要素解析(FEA)のモデリングとシミュレーションを自動化するエンドツーエンドのマルチエージェントシステムです。マルチモーダル視覚言語マルチエージェントパイプラインと検証優先のコード合成フレームワークを組み合わせ、ReAct駆動の推論で構造化FEA仕様を抽出し、自己デバッグとフォールバック機構により実行可能性と物理的妥当性を確保します。実験では、完全で物理的に有効なシミュレーションを生成する成功率が高く、信頼性と正確性においてLLMベースのベースライン手法を上回り、エンジニアを退屈な手動分析から解放する可能性を示しています。
新たな研究では、AnthropicとOpenAIの5つのフロンティア大規模言語モデルを「エージェントキュレーター」として自己完結型ワークスペースで動作させ、表現型注釈を自動化。エージェントは人間のキュレーターのばらつき範囲内の一貫性を達成し、従来のNLPツールを大幅に上回り、オントロジーキュレーションのスケーラビリティ問題に取り組む。
本論文では、乗法的パラメータ更新を用いて生成能力を維持しながら正確な概念消去を実現する直交概念消去法(OCE)を提案し、複数概念の高速消去を可能にする。
本論文は、科学論文に対するLLM生成レビューと人間レビューの整合性を実証的に評価し、整合性は限定的であり、プロンプトやモデルによって大きく変動することを明らかにした。さらに、著者がLLMレビューに基づいて論文を反復修正することで、最大35%の論文で統計的に有意なスコア向上が得られる「ゲーム可能性」を示した。
Cognitive Categorical Transformer(CCT)は306Mパラメータのアーキテクチャで、GPT-2 Smallに認知科学と圏論に基づくコンポーネントを追加し、WikiText-103で21.27のパープレキシティを達成。微調整ベースラインから2.92(12%)の改善。アブレーション実験により、改善の84%がGT-Full単体的メッセージパッシングによるものと判明。また、構造/一貫性の区別というパターンも発見。
本論文では、オフポリシー時間差学習を安定化する行動認識補助修正を提案する。補助共分散行列を行動ベルマン行列に置き換えることで、BA-TDCおよびBA-TDRCアルゴリズムを導入する。理論解析により固定点保存とほとんど確実な収束が証明される。標準ベンチマーク実験により、行動認識置換は性能を向上させるが、ロバストな結果には正則化が必要であることが示される。
本論文では、共分散計量を行動方針ベルマン行列の対称部分に置き換えることでオフポリシー予測の収束速度を向上させる、STHTD-MPと呼ばれる行動誘導型ミラープロックス時間差法を提案する。理論的収束解析と複数のベンチマークにおける数値実験により、GTD2-MPよりも優れた性能を示す。
Rubyの生みの親であるYukihiro Matsumoto(Matz)は、AnthropicのClaudeを利用して、Ruby用の実験的な先行時間コンパイラSpinelを構築している。SpinelはRubyコードをCコードに変換し、MiniRubyと比較して約11.6倍の速度向上を達成しているが、evalやスレッドなどの機能が未対応という制限がある。
本記事では「使い捨てソフトウェア時代」の概念を探求し、AI生成コードを産業革命の家具のように使い捨て可能として扱うことで開発を加速すべきだと主張する。実際のRailsプロジェクトの事例を用いてAIリファクタリングの成功を示し、「使い捨てコード宣言」として、意図、要件、安全性の三本柱を提案する。
OpenAI は Rosalind Biodefense を立ち上げ、審査済みの開発者と米国政府パートナーに対し、生物防衛、公衆衛生、パンデミック対策を推進するために GPT-Rosalind への信頼できるアクセスを拡大します。
清華大学出身のスタートアップ、Shishi Technologyは独自の並列最適化技術により、異種計算リソースと推論最適化エンジンを統合し、トークンあたりのコストを40%削減。国産トークン最適化工場を目指し、AI導入の障壁を低くする。
repo-brainは、コードベース全体を1つのMarkdownコンテキストファイルに圧縮し、最大96%の圧縮率を実現してAIトークン使用量を大幅に削減するオープンソースツールです。静的解析、アーキテクチャ解析、意味的関係の発見に対応し、複数のAIプロバイダーをサポートします。
Anthropicは9650億ドルの評価額で650億ドルのシリーズHラウンドを完了し、470億ドルの年換算収益を開示。同時にClaude Opus 4.8(判断力・正直さ・自律動作時間を改善)とClaude CodeのDynamic Workflows(数百の並列サブエージェントを可能にする)をリリースした。
ReadyToTalkは中小企業向けのAI受付サービスです。全ての電話を2秒以内に応答し、24時間365日対応、30以上の言語をサポートし、ウェブサイトからビジネス情報を自動学習します。月額39ドル(7日間無料トライアルあり)で、技術スキル不要でセットアップ可能です。
Overlineは、ブラウザの動画にリアルタイムAI字幕とライブ翻訳を追加するChrome拡張機能で、サブ秒のレイテンシーを実現します。
StudySongは、学習ノートやあらゆるテキストを完全な歌に変換するAIツールです。PDFアップロードに対応し、すべての処理がローカルで行われるためプライバシーが保護されます。
研究者が偽の皮膚疾患を作り出してAIをテストしたところ、AIチャットボットはそれを真実と信じ込んだ。この実験はAI医療アドバイスの危険性と、トレーニングデータにおける人間の監視不足を浮き彫りにしている。
Anthropicは650億ドルのシリーズH資金調達の中で、年換算売上高が2026年5月初旬に470億ドルを超えたと発表した。これは4月の300億ドル、2月の140億ドルからの急増であり、2025年末の90億ドルから約5倍の成長となる。一部の懐疑論はあるが、資金調達発表における虚偽は証券詐欺に当たるため信頼性は高いと指摘されている。