Anthropic社の強力AIモデル「Claude Mythos」、金融機関や専門家が深刻な懸念
AI企業Anthropicが開発した新型AIモデル「Claude Mythos」を巡り、世界中の金融当局とセキュリティ専門家の間に深刻な懸念が広がっている。複数の報道によれば、財務大臣や中央銀行幹部、金融業界トップらは、このモデルが金融システム全体のセキュリティに脆弱性を生み出す可能性を強く危惧している。AI安全研究所の創設者ダン・ヘンドリックス氏は、Claude Mythosのようなモデルは既存システムへの脅威を高め、その脆弱性を劇的に増大させると指摘している。 リスクの核心は、このモデルが特定のハッキングやサイバーセキュリティ任務において人間の能力を凌駕する可能性にあるとされる。その潜在的な悪用による損害があまりにも甚大であると判断したAnthropic社は、現時点での一般公開を見送る異例の決定を下した。同社は代わりに、安全性が低いとされる「Claude Opus 4.7」をリリースし、最も強力なMythos Previewは「Project Glasswing」と呼ばれる新たなサイバーセキュリティ initiative の一環として限られた企業にのみ提供している。 この決定は、大規模な導入前に安全性と管理、監視体制を確立する必要性を認識し、AIを高风险技術のように扱うべきだというパラダイムシフトを示していると専門家は分析する（IAPP）。しかし、その主張の検証には不十分な点も指摘されており、Mashableの報道によれば、専門家からは誤検知の率や既存のセキュリティツールとの比較、必要とされた人的レビューの程度など、重要な情報が欠落しているとの批判もある。さらにFortune誌は、同モデルの詳細が無防備なデータストアから流出するという事件も起きており、その強大な能力と相まって、強力なAIモデルに対する準備が整っていない現状が浮き彫りになっている。
Prefer swipe-first reading?
Install the app to keep reading with faster loads and a smoother mobile experience.
Sources
6 Cybersecurity Steps You Should Take After Anthropic’s Claude Mythos Offers Glimpse Into New World of AI Danger | Fisher Phillips - JDSupra
Anthropic’s new AI model could enable such crippling damage in the wrong hands that the company has decided not to publicly release it – but it still reshapes the cybersecurity risk landscape for...
Anthropic's decision to restrict access to its powerful Claude Mythos Preview marks a pivotol shift toward treating AI like high-risk technologies that require stringent governance structures, with safety, control and oversight established before large-scale deployment.
Six Reasons Claude Mythos Is an Inflection Point for AI—and Global Security | Council on Foreign Relations
AI scientist Dan Hendrycks, founder of the AI Safety Institute and adviser to ScaleAI and xAI, said models like Claude Mythos heighten the threat to these systems and dramatically increase their vulnerability. “The main cybersecurity concern about models like Claude Mythos and future iterations ...
But Khlaaf says Anthropic left out key facts needed to assess this claim — the rate of false positives, how Claude Mythos compares to existing cybersecurity tools, and exactly how much manual human review was required. ... Sign up for Mashable's weekly Light Speed newsletter.
The company said it is an improvement over past models but is "less broadly capable" than its most powerful offering, Claude Mythos Preview. Anthropic rolled out Mythos to a select of companies as part of a new cybersecurity initiative called Project Glasswing earlier this month.
Exclusive: Anthropic ‘Mythos’ AI model representing ‘step change’ in power revealed in data leak | Fortune
A draft blog post that was available in an unsecured and publicly searchable data store prior to Thursday evening said the new model is called Claude Mythos and that the company believes it poses unprecedented cybersecurity risks.
It was trivially easy to get around Anthropic’s AI guardrails, with the hackers simply pretending to work for legitimate cybersecurity organizations — highlighting how woefully unprepared we are for powerful AI models that could accelerate the discovery of serious vulnerabilities.
Fact Checks
Related news
テキサス州が洪水被害世帯のSNAP給付金申請期限を延長：ハリス郡マップ更新と課題
テキサス州は、7月の洪水被害により困難に直面した世帯に向けて、食料支援プログラム（SNAP）の代替給付金申請期限を延長すると発表しました。この措置は、中央および南部テキサスの住民が失われた生活必需品や食料の再取得をサポートすることを目的としています。 一方、ハリス郡では最新版のFEMA浸水マップが公開され、洪水の推定精度向上に貢献していますが、専門家からは気候変動の影響や将来的な開発計画が十分に反映されていないという指摘も出ており、今後の改善が求められています。
ノーラン監督『オデュッセイア』が世界興収11億ドルを突破、映画産業全体も好調
クリストファー・ノーラン監督の『オデュッセイア』が全世界で10億ドルを超える巨額の興行収入を達成し、監督史上最高益を記録しました。特に古代航海術を再現した圧倒的な映像体験が観客を引きつけ、公開2週目でも史上最小の興収下落率を樹立しています。 この成功に加え、『トイ・ストーリー5』も日本国内で100億円の興行収入を突破するなど、複数の大作がヒットを牽引。ハリウッド全体として映画館での鑑賞文化が根強く支持されており、IMAXなどの関連システム株価の上昇にも繋がっています。
AIデータセンターの電力需要が急増：AmazonやAnthropicなど巨大企業の開発計画と環境負荷
大手テクノロジー企業によるAI開発の加速に伴い、米テキサス州などで大規模なデータセンター建設ラッシュが発生しています。その電力需要を満たすため、Amazonは現地に巨大な民間ガスの発電所を建設する計画であり、この施設が年間3000万トンを超えるCO2排出量を記録する可能性が指摘されています。 一方、AIスタートアップのAnthropicもテキサス州でのデータセンター建設を進めており、ネクサス・データ・センターズを通じて150億ドル規模の融資協議が行われています。この電力需要増は、PJM地域における送電網計画においても天然ガス発電が主流となる傾向を強めています。
『スパイダーマン：ブランド・ニュー・デイ』が興行収入で快進撃、歴代記録に迫る成功を収める
トム・ホランド主演の『スパイダーマン：ブランド・ニュー・デイ』は、公開後、驚異的な興行収入を叩き出し、北米での初週末から歴代最高記録に迫る勢いを見せている。2週目に入っても集客力が衰えず、映画ファンからの期待を超える成功を収めている。 批評家からは、本作がMCU版スパイダーマンシリーズとして最も「地に足着いた」作品であり、孤独と守るものの選択というテーマを描き切った点が高く評価されている。単独4作目となる今回は、歴代のソニー映画のスパイダーマン3名が登場するなど、壮大なスケールで新たな物語を提示している。
AI時代における「肖像」の商業化：ライセンス供与と著作権を巡る議論
AI技術の進展により、人間の肖像（顔、声など）をライセンス供与する商業活動が活発化し、その実現性と規模拡大が実証されています。著名人から一般人まで、自身の「デジタルな姿」を素材として提供することで、AI動画やゲームコンテンツ制作に役立てるビジネスモデルが確立されつつあります。 しかし、この技術的進歩はエンターテイメント業界全体で権利問題を提起しています。女優の過去の姿を利用する事例や、AI生成音楽アーティストの登場など、利用範囲が広がるにつれて、著作権クリアランスや法的保護の必要性が指摘されています。各国では、個人のアイデンティティと商業的価値をどう両立させるかという倫理的な議論が高まっています。
RBIのNBFC規制案でBajaj Finance株が4%超急落、AIガイドラインも検討
インド準備銀行（RBI）がNBFC向けの信用施設に関する草案規制を発表した影響を受け、Bajaj Financeの株価は一時4%を超える下落となりました。この動きは、特定の融資形態に対する規制強化を市場に示唆しています。 一方、金融規制当局であるRBIは、銀行およびNBFCにおける人工知能（AI）利用に関する包括的なガイドラインも検討中です。これは、技術革新が進む中で、人間の監視や緊急停止機能の確保といったガバナンス面からの監督強化を目的としています。
Take Yomuyo with you
Download the mobile app for personalized headlines and quick access to breaking stories.