解析の設定を組むエージェント、聞き返すべき42件で誤って「準備完了」とせず、実地の通し試験は12件中9件
·244 文字·2 分
今日のご案内 ☕✨ # Jani氏らは、技術者の依頼から形状、メッシュ、PDE(偏微分方程式)の解法までの設定を組むエージェントを、「設定が正しいか」「最後まで動いたか」「数値が参照と合ったか」の3つに分けて採点した。情報が足りず聞き返すか断るべき42件では、誤って「準備完了」とした例は無かった。一方、依頼から結果まで通した実地の12件で、3つすべてを満たしたのは9件だった。
前回との違いを先に書く。前回は、同じ確かめでも「どんな問い方で」したかで答えが変わる例を見た。今回は、「通った」「速い」の数字が、何件中の何件か、何と比べたかで読み方が変わる例が並んだ。16の未知の設計で確かめたLuminaryの車体振動モデル、ロボットの物理を実物と合わせていないと書いたNVIDIAの例、本物のMLモデルではなく人工の誤差で確かめた時間短縮の手法だ。企業の発表は3本。うち1本は精度の数字が発表文に無い。
1. 解析の設定を組むエージェント、聞き返すべき42件で誤って「準備完了」とせず、実地の通し試験は12件中9件 # Jani氏、Srinivas氏、Runkana氏は、技術者の依頼を、形状の作成、メッシュ、PDEの解法、結果の出力まで自動で回せるJSONの設定に変えられるかを調べた。著者は、実行が成功しただけでは、設定が意図した問題を保っているか、足りない情報を正しく扱ったかは分からないとし、設定の正しさ、実行の完了、数値の検証を別々に評価した。作りは、モデルによる取り出しに、決まった結果を返す科学的な検査と能力の検査、はっきりした聞き返し、検証済みの部分修正を組み合わせる。ひな形に関わる120件の依頼で、最初の1回で設定と判断が正しかった割合は98.3%、スキーマを与えた1回きりの方法は92.5%、モデルだけでは82.5%だった。聞き返しか拒否が必要な42件では、誤って「準備完了」とした判断は無かった。別に30件の例で、保存した設定からの自動実行も示した。選んだ12件の実地の試験では、設定、実行、出力、数値の参照との一致をすべて満たしたのは9件(75.0%)だった。
💡 注目しておきたい理由: 「動いた」と「正しく設定された」を分けて数えている。聞き返すべき場面で先へ進まなかったのは、42件という分母とともに示されている。ただし通しの試験は12件で、しかも「選んだ」12件だ。著者自身も、新しく答えを出させたときに後戻りが出ることを挙げ、一貫性が次の課題だとしている。
🔗 情報源: arXiv 🕰️ 公開日時: 2026-10-30 🗂️ 分類: 解析設定エージェント・3つを分けて採点 2. Luminary、車体の振動を板厚と材料から予測するSHIFT-NVHを公開、16の未知の設計で部品ごとの誤差の中央値は0.47% # Luminaryは10月27日、車体の骨格の板厚と材料を変えたときの路面からの振動を、有限要素の計算をせずに予測するSHIFT-NVHを公開した。公開されている2010年型トヨタ・ヤリスの車体の衝突モデル(213部品、130,713節点)を使い、15部品の板厚を基準の±30%で変えた100の設計と基準をラテン超方格で選び、鋼、アルミ、マグネシウムの3材料、時速30、50、80、110kmの4速度で計1,212件を計算した。設計ごとに分け、学習840件、検証180件、テスト192件とした。テストの192件は16の未知の設計からなり、場の相対誤差は中央値1.1%、最大2.6%、部品ごとのRMS誤差は中央値0.47%、95パーセンタイルで2.4%だった。5%以上変わった部品で変化の向きを当てた割合は99.5%だという。