本研究は、オックスフォード大学の第二次世界大戦アーカイブを事例に、クラウドソースコレクションにおける自動キーワード抽出の技術的・倫理的課題を調査。3つのNLP手法を評価し、有望だが完全な解決策はなく、生成AIよりもオープンウェイト抽出モデルが責任ある展開に適していると結論づけている。
AI ニュース速報
リアルタイム監視
最新ニュース
信頼できる情報源、出典、権限、サイト内閲覧を保ちながら、AI の変化を読める情報に圧縮します。
最新ニュース
2026-07-13
本研究は、機械学習を用いた大規模文学コーパスの自動主題索引付けを探求し、ヴォルテール作品をテストケースとして、さまざまなモデルを比較。最良のMistralシリーズ4ビット量子化モデルはF1スコア0.67を達成し、自動索引の可能性を示した。
新研究により、1.46億から30億パラメータの小型双曲言語モデルが、コンパニオンAIによるお世辞、依存、作話記憶を検出し、創造的フレームシーディングと設計された忘却を通じて信頼性を向上させることが示された。
本論文では、自己教師あり学習を用いた一対一RNNによる文字セット簡略化の逆変換を提案し、わずか20行のテキストで文字誤り率の半分を回復。同じネットワークをバンド付きRNNとして使用し、中世憲章の略語展開に成功。さらに、任意の文字セット間の意味的類似度を計るヒューリスティック手法を導入し、Pythonライブラリを提供する。
本研究では、11個のGPT-2スタイル事前学習モデルの重みスペクトルを分析し、残差書き込み行列におけるスケール増大とスペクトル集中などの共有深さ傾向を発見。これらのスペクトルパターンを模倣した初期化手法を構築したが、標準的な手法に対する性能優位性は見られなかった。事前学習済み重みの直接再利用が依然として競争力を持ち、粗いスペクトルマッチングだけでは不十分で、よりリッチな情報が必要であることを示唆している。
arXiv論文は、企業報告書、マクロ経済データ、SECのEDGAR提出書類を組み合わせ、検索拡張生成(RAG)を用いた大規模言語モデルで自動の投資家向けブリーフを生成するシステムを検討した。著者らは4週間にわたり9社のデータを走査し、生成されたブリーフの有用性を9人の個人投資家に評価させた。
知識グラフ(KG)は自動構築時に事実誤差を含むことが多く、AgentKGVは動的ルーティングと反復クエリ書き換えを統合したエージェンティックLLM-RAGフレームワークを提案し、蒸留ベースのSFTと軌跡レベルGRPOによる二段階訓練で精度とコスト効率を向上。T-RExベンチマークで単一ターンRAGよりマクロF1が14.9ポイント向上、検索呼び出し数は半減。
新しい研究が言語モデルにおける創発的ミスアライメント(EM)のロバスト性に疑問を投げかけている。EMを再現しつつも、ミスアライメントとリアライメントはデータセットの表面的な特性(応答長の違いなど)に非常に敏感であり、以前報告された表現の相転移は行動のミスアライメントと一貫して相関しないことが判明した。これはEMの現在の証拠が主張されていたほどロバストではないことを示唆し、より厳密な評価プロトコルの必要性を強調している。
HALOは、粗い洗練段階とトークンスコアリングに基づく選択的な第2段階の潜在洗練を組み合わせたハイブリッド適応潜在洗練手法であり、凍結済み事前学習言語モデルを効率的に改善します。MMLU-ProおよびGPQA-Diamondベンチマークで、固定洗練ベースラインよりも優れた平均性能を達成し、計算コストも低くなっています。
本論文は、中程度のスパース性(約50%)を持つLLMのための効率的なGPU推論手法を提案する。3層の行列ストレージ形式と、スパーステンソルコアとCUDAコアを併用するSpMMカーネルにより、最新のHBM搭載GPUで初めて密行列乗算を上回り、SpInferに対して最大1.64倍、FlashLLMに対して最大1.41倍の高速化を実現した。
高品質なデータは機械学習を推進するが、データ製品の価格設定は限界費用がほぼゼロであることや収益の予測不可能性から難しい。従来の価格設定手法は機能せず、市場比較アプローチにはベンチマークが欠けている。研究者らは、世界9つの主要データ市場から16,147製品のメタデータを含む、初のデータ製品価格設定データセット「DaDaDa」を発表した。これにより価格モデルの訓練とベンチマークの確立が可能になり、分類や検索タスクにも利用できる。実験により有効性が示された。
フェデレーション連続学習(FCL)は、分散クライアントが変化するデータストリームから学習し、以前に学習した知識を保持する能力を評価する。既存の評価は、データセット、タスク分割、クライアントデータ分割、タスク順序、バックボーン、メモリ仮定、報告ルールを同時に変更するため比較が困難である。本論文では、FCLのための異種性を考慮したベンチマークライブラリHEROを提案する。HEROはタスク分割、クライアントデータ分割、クライアントタスク順序の3つの選択を分離する。HERO-Coreではαがデータの偏り、ρがタスク順序の不一致を制御する。CIFAR-100とTinyImageNetでの評価により、手法の振る舞いが容易な設定と異種設定で変化すること、平均精度が弱いクライアントのパフォーマンスを隠す可能性があること、HEROインターフェースが画像以外のドメインシフトの難しさを明らかにできることを示す。HEROは再現可能で設定を考慮したFCL評価をサポートするベンチマークストリーム、設定、実装、レポートスクリプトを公開する。
研究者らは、リー群上でリーマン型バッチ正規化を行う統一フレームワーク LieBN を提案した。左右不変な計量を活用し、リーマン平均と分散の制御に関する理論的保証を与え、SPD 多様体・回転行列群・フルランク相関行列多様体上の九つの幾何構造で実装している。
Directorは、予測駆動型のオンラインエキスパート配置を用いてエンドツーエンドの遅延を最小化する新しい分散MoEサービングシステムであり、一般的なMoEモデルで11~55%の遅延削減を実現します。
本論文は、フローマッチングにおけるノイズとデータの結合をアラインメント界面として捉え、最適輸送を用いてスカラーノイズ座標と分子報酬を訓練時に整列させるReward Transportを提案する。推論時には座標を変化させるだけで追加計算なしに生成分布を制御できる。
研究者らは、事前学習中に隣接トークン間のエキスパート切り替えを罰する微分可能なルーティング一貫性損失「StickyMoE」を提案した。意味的に一貫したスパン全体で同じエキスパート割り当てを維持するようルーターを促す。実験では、エキスパート切り替え率を最大60%削減し、パープレキシティの悪化は4%未満に抑え、事後微調整をパレート支配した。
本論文は、標準対称量子化器のクリッピング問題を解決し、非対称量子化の実行時オーバーヘッドを回避する符号付き対称量子化を提案する。理論解析によりℓ2誤差で条件付き最適性を示し、Qwen3、Llama3シリーズのLLMでパープレキシティと精度の向上を確認した。
iLENSは、大規模言語モデル(LLM)と混合専門家システム(MoE)に基づく解釈可能なフレームワークであり、アルツハイマー病(AD)の前駆期から認知症への変換を予測する。構造化神経画像測定と非構造化情報を統合し、LLMが専門家のルーティングを導くことで、競争力のある予測性能と患者サブタイピングを提供し、ルーティング決定に対して透明で生物学的に根拠のある理由を示し、高性能生存分析と解釈可能な臨床意思決定支援のギャップを埋める。
本論文はLLMの出力スコアを相互作用に分解し、知識蒸留の共通機構が相互作用の疎化にあることを示す。さらに、複雑な相互作用の疎性を明示的に強制するプラグアンドプレイの損失関数CIPを提案し、多様な蒸留手法の性能を一貫して向上させる。
KV-PRMは、LLM生成時に自然に生じるKVキャッシュを直接読み、単一の「検証トークン」を処理することで、過程報酬モデルのスコアリングコストをO(L²)からO(L)に削減する。MATH、GSM8K、AIMEでテキストベースPRMと同等以上、最大5,000倍のFLOPs削減、37倍の低遅延、34倍のメモリ削減を実現する。
MedRealMMは、中国の全国的なインターネット病院で収集された匿名化済みの医師・患者間インタラクションから構築された、マルチモーダルなオンライン医療相談の大規模ベンチマークである。64の診療科にまたがる5,620件の実世界マルチモーダル症例を含み、医師が洗練した症例別ルーブリックを用いて19の汎用・医療特化LLMを評価する。画像情報が信頼できる臨床性能に不可欠であり、最先端モデルはオンライン医師の応答を依然として下回り、特に安全に敏感なエラーの回避が中心的課題であることを示している。
L-MADフレームワークは、法的テキスト含意タスクにおけるマルチエージェント討論の異なる構造と集約方法を体系的に評価する。エージェントに専門家のペルソナを割り当てることで、強力な単一エージェントベースラインと比較して最大8%の改善を達成した。エージェント数を増やすと不整合性が低減し精度が向上するが、討論ラウンドを延長するとエージェントが互いの誤りを強化する「過剰審議ドリフト」が生じる。この発見は、ハイステークスな法的推論環境における協調的マルチエージェントシステムの展開に実用的な限界と安全マージンを提供する。
本論文では、LLMプランナーと時系列基礎モデル(TimesFM)を組み合わせ、反事実物理注入機構により物理的基盤を持つ自律防御を実現するニューロ・エージェンティック制御フレームワークを提案。SWaTデータセットでLSTMやTCNを上回り、幻覚動作はゼロ。
ARCANAは、厳しいテスト時間とハードウェア制約の下でARC-AGI-2タスクを解く協調型マルチエージェントフレームワークである。各タスクを反復的な知覚、仮説生成、記号実行、反省的改善に分解し、共有微分可能黒板と学習済みメタコントローラでエージェントを調整する。構造化プログラム探索と適応的な多ターン修正を組み合わせ、推論効率と解の質を向上させる。
研究者らはブラソフ方程式の平均場導出の形式化を戦略ゲームとして捉え、数学者がAIシステムを指揮してLaTeX文書をLean 4証明支援コードに変換する。このケーススタディは、非線形ブラソフ方程式のドブルシン平均場経路による適切性(存在、一意性、安定性評価、平均場極限、短時間重ね合わせ原理)の完全な形式化に成功した。形式化の約6分の1は、より広範なライブラリが再利用可能な自己完結層として分離された。
Long-Horizon-Terminal-Benchは、実験再現、ソフトウェア工学、マルチモーダル解析、インタラクティブゲーム、科学計算など9カテゴリにわたる46の長期的タスクからなるターミナルベンチマークです。タスクを細かいサブタスクに分解し、密な中間報酬と部分点を提供することで、AIエージェントの能力をより包括的に評価します。15の最先端モデルを評価した結果、最強モデルでも部分報酬閾値0.95で15.2%、完全報酬閾値1.0で10.9%の合格率にとどまり、平均合格率はそれぞれ4.3%と1.7%であり、大きな改善の余地があることが示されました。
GATSはUCB1ベースの木探索と3層のワールドモデルを組み合わせ、推論中のLLM呼び出しを排除しながら最大100%の成功率を達成し、LATSやReActを大幅に上回る。
新しいarXiv論文は、推論時制御を外部化するアーキテクチャであるCogniConsoleを提案する。489件の制御可能性指向のプローブにより、モデルアーキテクチャを固定したまま構造的足場を増やすと出力の分散と失敗率が体系的に低下することを示し、多くの失敗は能力不足ではなく制御の仕様不足に由来すると論じている。
本論文は、敵対的ロバスト性というAI安全性の基礎問題に対して、格子探索問題に帰着させる厳密な理論的枠組みを提示する。音声認証と完全認証という2種類の区間認証を導入し、格子探索演算子を開発、最適化の複雑性における非対称性を明らかにする。完全認証は多項式時間で解けるが、音声認証は強難解である。最後に、新しいParallelepipedoNNシステムを用いた実験評価を示す。
MITとThornの研究者らは、生成AIモデルが児童性的虐待素材(CSAM)を生成可能かどうかを、出力を生成せずに内部の適応を分析して検出する監査手法を開発した。テストでは100%の精度を達成し、拡張性も高いため、プラットフォームや法執行機関が有害なモデルを特定・除去する実用的なツールとなる。