研究者らは、マルチスケールと層間の特徴相互作用を明示的にモデル化するマルチスケール層注意(MSLA)を提案し、大規模甲骨文字データセットで既存の注意機構を一貫して上回りながら計算効率を維持することを示した。
AI ニュース速報
リアルタイム監視
最新ニュース
信頼できる情報源、出典、権限、サイト内閲覧を保ちながら、AI の変化を読める情報に圧縮します。
最新ニュース
2026-07-02
SLIM-RLは、拡散大規模言語モデル(dLLM)のための新しい強化学習手法です。τバジェットデコーダを用いて各ロールアウトステップのコミットリスクを制限し、軌跡の再構築をせずに総リスクを低減します。分散低減手法を組み込んだトレースフリーのランダムマスキング目的関数を使用し、SDAR-4BにおいてTraceRLの最高MATH500精度を0.46倍の訓練サンプルで達成し、数学・コードベンチマークでTraceRLを上回ります。
本研究は機械学習パイプラインを用いて619個のインカ・キープ(結縄装置)を分析し、教師なしクラスタリングで3つの構造グループを発見、教師あり分類で86%のF1スコアを達成、SHAPにより紐の撚り方向が帝国様式の主要な識別子であることを特定した。さらに、植民地時代の博物館コレクションによる構造的バイアスを明らかにし、サンタバレーのキープの半族構造を独立に検証した。
ALEEは、抽象意味表現(AMR)を使用して英語のミニマルペアを生成し、対象言語の翻訳と組み合わせることで、任意の言語のテキスト埋め込みモデルを細かく診断する新しい評価フレームワークです。275以上の言語にわたる大規模な実験により、言語の普及度やサブワードトークン化と相関する性能格差が明らかになりました。
本論文は、既存の知識ベース視覚質問応答(KB-VQA)ベンチマークが、回答の導出可能性、質問の明確性、視覚的接地の必要性という3つの重要仮説を系統的に違反していることを明らかにする。その結果、回答精度は誤解を招く指標となり、モデルランキングの歪みや推論能力の過大評価を引き起こす。著者らは監査・修復プロトコルとマルチエンティティ拡張プロトコルを導入し、修正後の評価で性能傾向が大きく異なることを示し、より相互作用を意識したベンチマーク設計を提唱する。
新しい研究により、医療用大規模言語モデルの幻覚は簡易なプローブで高い精度(AUROC 0.77-0.86)で検出できるが、その神経信号は分散・冗長であり、検出可能でも関連ニューロンの操作では幻覚を修正できないことが明らかになった。読み取り可能性と制御可能性の間に深刻なギャップが存在する。
本研究は、トルコ語の5つのトピック(難民、イスラエル・パレスチナ紛争、反ギリシャ感情、民族・宗教コミュニティ、LGBTI+)とアラビア語の1つのトピック(難民)をカバーするヘイトスピーチデータセットを構築し、ヘイトカテゴリ分類、ヘイト強度予測、ターゲット識別、ヘイトスピーチスパン検出のためのBERTベースのモデルを開発した。
人間専門家による採点を通じて、アラビア語の文化・社会言語学知識におけるフロンティアLLMの性能を評価する研究。相互評価フレームワークはエジプトおよびイラクのアラビア語でモデルをテストし、GPT-5.4が最も信頼できる評価者である一方、暗黙の文化的推論が依然として大きな課題であることを明らかにした。
ACL 2026 BigPicture Workshop で発表された論文は、言語モデルの潜在空間を利用して挙動の制御と信頼性の校正を行う手法を論じ、制御のためのステアリングベクトルと、潜在空間に基づくモデル校正器を提案している。
大規模言語モデルは創造的作文において、安全な表面的編集と破壊的な無制御なプロット拡大の間で揺れる二元的失敗に直面している。研究者らは、物語と語りの区別に基づくLoomフレームワークを提案。3層パイプラインと意図中心の記号的思考連鎖を用いて、ナラティブの意図とレンダリング密度を精密に制御する。評価では、Loomがこの緊張を解決し、事実の整合性と記述の強度において最高品質スコアを達成した。
本論文は、Beckmann & Butlin (2026) によるLLM個別化問題の存在論的枠組みに疑問を呈し、それが未議論の体制間共参照仮定を継承していると論じる。Qwen3-4B-InstructおよびMistral-7B-Instruct-v0.2でのペルソナトポロジー実験を通じて、4つの経験的楔を提示し、この仮定を覆す。そして、体制指標個別化を提案する。すなわち、表象内容の同一性単位は(媒体、体制)対であり、媒体単独ではない。
フェデレーテッドラーニングは、モデルサイズとクラス数の2つの直交する軸で帯域幅に制約されます。モデルサイズはパラメータ平均化手法のマージ頻度を制限し、クラス数は大語彙でのソフトラベル蒸留を非現実的にします。TallyTrainは、各ピアのargmaxクラスインデックスのみを送信することで、クラス軸の通信をプローブあたり⌈log2C⌉ビットに圧縮します。非IID学習下では、ハードラベルの多数決がノイズをフィルタリングし、ソフトラベル平均はノイズを増幅します。標準ベンチマークで、TallyTrainはソフトラベル蒸留と同等以上の性能を、最大3桁少ない通信量で達成します。さらに、ハードラベルコンセンサスとスパースパラメータマージを組み合わせた帯域幅ブリッジ変種は、FedAvg、FedProx、FedDFをパレート支配します。
Andrew G. Moore氏によるarXiv論文は、Isingマシンハードウェア上での熱力学的推論に向けて深層畳み込みネットワークを学習する、純粋に誤差逆伝播に基づくアルゴリズムを提案した。二値ギブスサンプリング下でCIFAR-10で94.9%、CIFAR-100で76.0%の精度を達成し、推論コストと精度・自己相関時間の制御を結びつける理論を構築・実験的に検証している。
本研究では、検証可能な報酬を用いた強化学習により、キャリブレーションされた確率予測モデルを訓練する手法を提案する。NFLの勝利確率予測をテストベッドとし、ラベルなし報酬(状態条件付き経験勝率)と勾配マスキングを導入することで、ノイズを除去し推論チェーンを保護する。7Bモデルがこの報酬のみで訓練され、人間のラベルや教師あり微調整なしに、ベッティング市場と同等のキャリブレーションを達成した。
パラメータ効率的なファインチューニング(PEFT)は通常、固定基底(空間ドメインまたはフーリエドメイン)で重み更新を再パラメータ化します。本論文では、各専門家が学習可能な分数フーリエ次数を持ち、空間ドメインとフーリエドメインの間を連続的に補間する分数フーリエ混合専門家を提案します。トークンを異なる次数の専門家にルーティングすることで、低ランク更新を最もコンパクトなドメインに配置でき、専門家間は自然に非相関化され、干渉を低減しマルチタスク構成を改善します。計算コストは無視でき、LLaMA-3.1-8BおよびQwen2.5-7Bの各種ベンチマークで強力なベースラインを上回ります。
本論文は、多変量時系列予測のためのタスク適応型Transformer類似モデルを自動発見する進化的ニューラルアーキテクチャ探索フレームワークEVOTSを提案する。注意、フィードフォワード、投影コンポーネントをモジュール型ゲノムで表現し、修復機構で構造の妥当性を保つ。ETT系4データセットで複数の予測設定とホライズン96〜720を評価し、多変量→多変量設定では強力なTransformerベースラインと同等以上の場合があるMSEを達成し、実時間の学習コストも報告している。
新しい論文は、言語モデルに推論を学習させるための3つの人気手法—GRPO、Dr. GRPO、DAPO—がすべて同じ数値、すなわち正解・不正解の標準偏差を調整していることを証明する。グループ標準偏差恒等式は、回答の不一致が学習更新の大きさを直接決定することを示し、Big-Mathデータセットと制御された訓練実験で検証された。
FoGSは、生存分析のための新しい合成データ手法であり、複数の生成器からのサンプル選択により、臨床現場でのデータ不足とプライバシー制限に対処する。16の公開データセットで、単一生成器よりもモデル性能を大幅に向上させ、プライバシーも維持する。
本研究は、セキュリティ分類のための半教師あり学習(SSL)パイプラインにおける分類器チューニングとジョイント最適化の効果を分離する。分類器のみをベイズ最適化でチューニングすることで、性能向上の86%を回復でき、簡略化されたレシピが完全なパイプラインと同等であることを示す。
生成モデルは物理シミュレーションのスケーラブルなサロゲートとして登場したが、出力が物理法則を尊重する保証はない。制約サンプリングは推論時に制約を厳密に課すが、計算コストが高い。本論文では、スパースGPU非線形最適化を活用して制約射影を加速するSNAP-FMを提案。ExaModels.jlとMadNLP.jlを用いてブロックスパースなヤコビアンとKKTシステムを処理し、PDEベンチマークで非線形制約射影を高速化しつつ制約充足を維持する。
研究者らは、ニューラルネットワークのコンポーネント分析を構造化されたクエリ可能なフィールドに整理する「顕現ユニット」プロトコルを提案し、視覚・言語モデルでの検索有効性と因果的十分性・必要性を実証した。
ByteDance Seed が Seed2.0 モデルシリーズを発表。ユーザーの真のニーズに基づく前瞻的な評価体系を構築し、ロングテール知識と複雑な指示追従という二つの課題に取り組む。推論、視覚理解、検索能力で世界トップ水準を実現し、現実世界の複雑なタスクを処理する初期能力を示している。
arXiv論文はルイス信号ゲームでLLMエージェントの5種類の記憶アーキテクチャを比較し、調整の成否を決めるのはチャネル容量よりも記憶アーキテクチャだと示した。永続的な私的ノートを持つエージェントは余剰容量を活かし、状態を持たないエージェントは中程度の容量でピークを迎えた後に劣化する。
新たな研究が「認識的AIリテラシー(EAIL)」フレームワークを提唱し、人間とAIの協調プログラミング対話の大規模データセットを分析した結果、学生と生成AIの相互作用の78.8%が非習熟志向の目標と信頼性の低い認識的戦略に依存しており、高い認識的関与を示したのは11.1%のみであることが明らかになった。
本論文は、人間がAIエージェントを実行時に監督する状況で、双方向に私的情報が存在する問題を扱う。人間は自身の報酬関数を、AIは提案する行動の品質をそれぞれ私的に知っている。CIRLと監督ゲームを基に、play/ask/trust/overseeインターフェースを備えた文脈付きバンディットのチームゲームを導入し、信頼できない監督コミュニケーションに起因する回避可能な危害の領域を特徴づける。
RareDxR1は、非構造化臨床ノートから直接オープンドメインの希少疾患診断を行うためのエンドツーエンドの推論中心大規模言語モデルです。知識の内在化と自律的進化学習を統合し、従来のパイプラインベースの表現型抽出や検索拡張生成の限界を克服します。また、Reflection-Enhanced Reasoning Samplingと二重レベルカリキュラム強化学習を採用し、診断精度を向上させます。実験では、複数のベンチマークで最先端の結果を示しています。
本研究は、管制官の意思決定ロジックと解空間表示に適合する、エンルート航空交通管制向けの衝突回避経路計画アルゴリズムを開発した。距離ベース、時間間隔ベース、領域ベースの3つの意図ベース衝突検出法を統合し、頂点ベースとエッジベースの探索変種を比較評価した。MUACデルタセクターのシナリオでは、領域ベース検出を用いたSSPPVが平均3.69ミリ秒で経路を計算し、最良の性能を示した。
LLMが生成する自由形式コードを型付きJSONコレクター設定に置き換え、6種類のコレクター分類法、テンプレートとユーティリティ関数の制約、静的Airflow DAG実行、ルールベースの品質チェック、構造化フィードバック補正を組み合わせたフレームワークを提案。実験では、検証済みタスクにおいて実行段階のLLMトークン消費がゼロで、平均処理時間が最も低いことを示した。
本論文は、学際的協働研究の実践的ニーズから生まれた知識文書化のためのデータモデルMMMを提示し、情報システムの設計空間に関する比較分析の中に位置づける。MMMは少数の規範的制約と自由テキストラベルの表現的自由を組み合わせ、意味的収束を必要とせずに学際・アプリケーション・デプロイ間の相互運用性を目指す。参照実装とパイロット展開データにより、実装可能性と初期の有用性が示されている。
新たな論文は、有限合理性を道徳認知に拡張したBounded Morality(有限道徳)フレームワークを提案し、倫理理論を道徳的広がりと深さのトレードオフの中での局所的に効率的な戦略としてモデル化する。