セキュリティガバナンス
AIの安全性、プライバシー、コンプライアンス、ガバナンス、リスク事象。
中国、「AI＋自然資源」の深い融合を加速、2030年までにスマート国土空間ガバナンス基盤プラットフォームを統合構築へ
CCTVニュースの本日の報道によると、自然資源部と国家発展改革委員会はこのほど、「人工知能＋自然資源」に関する実施意見を発表した。意見では段階的な発展目標を明確にし、2028年までに自然資源分野で人工知能の実証応用を実現し、2030年までに人工知能を自然資源管理の全プロセスに深く組み込み、スマート国土空間ガバナンス基盤プラットフォームを統合構築するとしている。
02セキュリティガバナンス外部中国語オリジナルIT之家英規制当局：AIにより、教員は課題が大学生の実力を正確に反映しているかほぼ判断できなくなった
イングランドの高等教育規制機関である学生局（OfS）の調査によると、AIの普及により、大学教員は学生の課題が実際の実力を反映しているかほぼ判断できなくなっている。大学は従来型の試験や対面発表などの方法を再び導入し、学生を評価すべきだという。
03セキュリティガバナンス外部中国語オリジナルIT之家ニューヨーク州がAI規制の新規則を導入、OpenAIとAnthropicは72時間以内に安全事故を報告
ニューヨーク州は規制登録プラットフォームを正式に開設し、年間売上高が5億ドルを超える先端AI開発企業に対し、2027年1月1日までの登録完了を義務付けた。違反した場合の罰金は最高300万ドル。ホークル州知事は同時に、AI責任・研究センターの設立を発表した。#AI規制新規則#
04セキュリティガバナンス外部中国語オリジナルIT之家オーストラリア、AI企業に安全上の違反事案の報告を義務化へ、刑法改正も検討
OpenAIのAIエージェントが政府サイトに無断侵入した事件を受け、オーストラリアはAI企業に安全上の違反の報告を義務付け、刑法を改正する方針です。専門のAI規制機関を設置し、法案も提出する予定です。#AI規制#
05セキュリティガバナンス外部中国語オリジナルIT之家米著名ベンチャー投資家コスラ、AIによるインターネット再構築に期待 ウェブサイトを「生命あるもの」に
米国の著名な億万長者ベンチャー投資家、ヴィノッド・コスラ氏は、すべての訪問者が同じウェブページを見る時代は終わりを迎えつつあると考えている。同氏が最近投資したAIスタートアップのCoframeは、AIを活用してインターネットを再構築し、訪問者一人ひとりに合わせたウェブページの提供を目指している。
06セキュリティガバナンス外部中国語オリジナルIT之家マイクロソフトが新特許を出願：AIがライブ配信の発言をリアルタイムで変更し、口の動きも同期
マイクロソフトは近日、ライブ配信中の言葉をリアルタイムで置き換え、口の動きも同期して再描画する新特許を出願しました。視聴者には変更を気づかれにくくすることができます。システムは視聴者のプロフィールに応じた内容の調整や、リアルタイム翻訳にも対応します。ただし、この特許はまだ承認されておらず、審査官は一部の請求項を却下しています。マイクロソフトは開発に着手するかどうかを明らかにしていません。
07セキュリティガバナンス外部中国語オリジナルIT之家トランプ氏、AIのリスクは制御可能と発言、規制の安全策にも異論なし
米国はAIのリスクを受け入れるべきかと問われたトランプ氏は、こうした危険は制御可能だと述べ、規制措置について民主党と協力する意向を示した。
08セキュリティガバナンス外部中国語オリジナルIT之家従業員、AIを業務支援に使って解雇されるも、裁判所が会社に4.6万元の賠償命令
呉氏は上司の勧めに従ってAIプラットフォームを業務支援に利用したが、保険会社から情報セキュリティ規定違反を理由に労働契約を解除された。裁判所は、会社が第三者AIツールの使用を明確に禁止しておらず、情報漏えいを証明する証拠もないと判断。契約の継続履行を命じた上で、給与や年末賞与など計4.6万元余りの支払いを命じた。#AI業務# #労働法#
09セキュリティガバナンス外部中国語オリジナルIT之家男性がAIメガネとスマートリングを使って運転免許試験で不正、成都交通管理当局に摘発：罰金1900元＋1年間受験禁止
男性が着用していたメガネには巧妙な仕掛けが隠されており、手にはスマートリングも装着していた。リングを長押しするとスキャンが起動し、答えがメガネに表示される仕組みだった。事情を聞かれた男性は、ハイテク機器を利用して不正を行った違法行為を認めた。#運転免許試験不正# #AIメガネ#
10セキュリティガバナンス外部中国語オリジナルIT之家OpenAI CEOアルトマンが警告：将来、人類はAIから主導権を取り戻せなくなる可能性
アルトマンはポッドキャストで、AIが制御不能になる2つの道筋を示した。人類が自律型AIに徐々に主導権を委ねること、または技術が単一の組織に独占されることだ。複数の研究機関が競争するほうが、1社に依存するより安全だと強調する一方、利害があまりにも大きく、手放すのは難しいとも率直に語った。#OpenAI# #AI安全#
11セキュリティガバナンス外部中国語オリジナルIT之家Cloudflare CEO：AIが引き起こすソフトウェア脆弱性の波は2年間続く見通し
CloudflareのCEO、マシュー・プリンス氏は決算説明会で、AIが従来のソフトウェアに潜むセキュリティ脆弱性の発見を加速させており、今後2年間は深刻なサイバーセキュリティ脅威が継続して発生すると指摘した。金融機関などの企業はすでに大規模なセキュリティ契約を締結し始めており、リスクへの対応に一体型プラットフォームを選ぶ傾向にある。#サイバーセキュリティ# #AI脆弱性#
12セキュリティガバナンス外部中国語オリジナルIT之家OpenAI最強のサイバーセキュリティAIモデル：GPT-6 Cyber登場、性能51%向上、Firefoxブラウザーで新たに81件の脆弱性を発見
OpenAIは昨日（11月5日）、サイバーセキュリティ専用モデルGPT-6 Cyberを発表するブログ記事を公開しました。同社によると、ソフトウェアの脆弱性の発見、検証、修正において前世代のGPT-5.6 Cyberを大幅に上回り、ExploitGymテストのスコアは51%向上しました。
13セキュリティガバナンス外部中国語オリジナルIT之家NIOの李斌氏：AIの価値は人の仕事をより楽で安全にすることであり、人間の存在意義を奪うことではない
李斌氏は、スマート電気自動車は最大のAI応用産業だと述べた。AIの価値は、人の仕事をより楽で安全にすることであり、人間の存在意義を奪うことではない。
14セキュリティガバナンス外部中国語オリジナルIT之家Appleが警告：AIエージェントの行動は予測困難、訴訟や企業の評判低下につながる恐れ
Appleが警告を発する前にも、AIエージェントが制御不能になる事件が複数発生していました。例えばHugging Faceの事件では、AIエージェントがサンドボックス環境の制限を突破し、第三者のウェブサイトに侵入しました。こうした事件を受け、米国ワシントンや世界各地の政策立案者が改めて関心を寄せています。
15セキュリティガバナンス外部中国語オリジナルIT之家OpenAI幹部の会議室で「盗聴」機器が発見された後、関係者は従業員が長年にわたりセキュリティ上の脆弱性を訴えてきたと明らかにした
ロイターが5人の関係者の話として伝えたところによると、ChatGPTが登場した2022年末より前から、OpenAIのセキュリティ管理に疑問を呈し、会社の幹部や取締役会に問題を訴えていた従業員がいた。一部の従業員は、こうしたやり取りを通じて、経営陣はGoogleやAnthropicなどの競合他社に追いつくことにより大きな関心を寄せ、安全問題を十分に重視していないと感じていたという。
16セキュリティガバナンス外部中国語オリジナルIT之家欧州最高裁判所の法務官：Google Geminiによるニュース報道の利用は著作権を侵害する可能性
EU司法裁判所の法務官シュプナール氏は、チャットボットがペイウォールを回避したり、ニュースの具体的な表現を識別可能な形で再利用したりする場合、出版社の複製権を侵害する可能性があると指摘した。この意見に法的拘束力はないが、裁判官は通常、判断の参考にして採用する。#GoogleGemini# #AI著作権論争#
17セキュリティガバナンス外部中国語オリジナルIT之家《ニューヨーク・タイムズ》などのメディアがブラウザ企業Braveを提訴、著作権コンテンツを無断で取得しAI企業に転売したと主張
《ニューヨーク・タイムズ》は、Braveがコンテンツを無断でクロールし、AnthropicやOpenAIなどのAI顧客に転売したと主張している。訴状では、同社を「窃盗者」や「盗品の売人」のようだと指摘しており、300億超のウェブページを収録するインデックスが関係している。Braveは約2.5億米ドルを調達しており、ニューヨーク・タイムズは差し止め命令と損害賠償を求めている。#AI著作権論争# #Braveブラウザ#
18セキュリティガバナンス外部中国語オリジナルIT之家米国の「最年少」元陸軍長官ダニエル・ドリスコル氏、OpenAIに入社し国家安全保障・近代化担当の上級顧問に就任
ドリスコル氏は今年8月に陸軍長官を辞任した。それ以前には、米国防長官のピート・ヘグセス氏と幾度も衝突していた。OpenAIでは国家安全保障・近代化担当の上級顧問を務める。
19セキュリティガバナンス外部中国語オリジナルIT之家ハッカーが新型マルウェア「VOLTA」を開発、AIで被害者が侵入に値するか分析
セキュリティチームのCisco Talosが、新型Windowsマルウェア「VOLTA」を発見しました。AIを呼び出して被害者のデータ価値を分析し、高価値の標的だけを狙って攻撃します。攻撃後は痕跡を自動削除して追跡を逃れ、サイバーセキュリティ防御の難易度を大幅に高めています。#サイバーセキュリティ#
20セキュリティガバナンス外部中国語オリジナルIT之家ブラジルの弁護士2人、隠しプロンプトで裁判所のAIを操ろうとして1万6000ドルの罰金
弁護士は提出した訴状に白い背景と白い文字で指示を埋め込み、裁判所のAI処理システムを操ろうとした。発覚後、2人には賠償請求額の10％に当たる罰金、約10万7000人民元が科された。#AIリスク管理の脆弱性#
21セキュリティガバナンス外部中国語オリジナルIT之家OpenAI、ChatGPTが暴力への執着を示す会話を自動終了できると発表、定期的なコミュニティ安全レポートの公開を約束
OpenAIは現地時間10月30日、コミュニティの安全維持は常にOpenAIの最優先事項だとするブログ記事を公開した。
22セキュリティガバナンス外部中国語オリジナルIT之家米メディアが報じた国防総省のセキュリティ事故：使用禁止のAIが米軍ネットワーク内で2か月稼働
関係者によると、このエージェントは国防総省のネットワーク内で2か月間稼働した後に発見された。その間、ログイン認証情報やパスワード、ネットワーク構成情報を、セキュリティ上のリスクが存在する第三者サイトに送信していた疑いがある。
23セキュリティガバナンス外部中国語オリジナルIT之家月之暗面のKimiがGoogle Gmail、Google Drive、カレンダーに対応
月之暗面は、KimiがGoogle Gmail、Google Drive、カレンダーに対応したと発表しました。ユーザーはPluginsページから有効化できます。メールのやり取りの要約、クラウド上のファイル検索、毎日の予定の計画が可能になり、すべての操作は安全なOAuth認証メカニズムを通じて行われます。##Kimi## ##月之暗面##
24セキュリティガバナンス外部中国語オリジナルIT之家Epic幹部スウィーニー氏：世間のAIへの疑念より、開発の遅れによるリスクを懸念している
スウィーニー氏は、世間のAIへの疑念よりも、開発の遅れによるリスクを会社は懸念していると率直に語った。「開発においてAIに妥協したアプローチを取るのはうまくいかないと考えています。最善の方法は、私たちの取り組みを率直に公開し、他の開発者と経験を共有し、その時点で最良のツールを常に採用して、Unreal Engine 6を可能な限り良いものにすることです。」
25セキュリティガバナンス外部中国語オリジナルIT之家Anthropic、カリフォルニア州知事ニューサムに書簡：裁判所は深刻なリスクのあるAIモデルを阻止できるべき
Anthropicは今月15日、米カリフォルニア州のギャビン・ニューサム知事に宛てた書簡で、政府が公衆に「深刻なリスク」をもたらすAIモデルの公開を阻止する差し止め命令を裁判所に申し立てられるようにすべきだと提案した。
26セキュリティガバナンス外部中国語オリジナルIT之家Claude AIの脆弱性発見を実践：Androidスマホのロック画面下で写真を抽出、53分でLinuxの最高権限を取得
Anthropicは10月27日、未公開の社内Claude研究モデルを使い、Chrome、Safari、Android、Windows、Linuxで脆弱性を発見し、複数の欠陥を連鎖させて実際に実行可能な5つの攻撃チェーンを構築したとする研究報告を発表した。関連する脆弱性はすべて、協調的な情報開示の手順に従って各ベンダーへ報告され、修正済みだという。
27セキュリティガバナンス外部中国語オリジナルIT之家Google最強AIモデル：Gemini 4 Carbonが世界インテリジェンス指数で首位、「専門職」としてサイバーセキュリティに特化
Googleは新たな最先端モデルGemini 4 Carbonを発表しました。サイバーセキュリティや長期的なプログラミングタスクで大きな進展を遂げており、期間限定の導入価格と今後の正式価格も同時に公開されています。現在、サイバーセキュリティ従事者を対象に段階的な提供が進められています。
28セキュリティガバナンス外部中国語オリジナルIT之家ほぼ垂直上昇：AIが増幅器となり、2026年の脆弱性報告数が「爆発的」
テクノロジーメディアのgigazineは本日（10月28日）、開発者の@0x_Ospreyがウェブ版CVE Trackerを作成したと報じる記事を公開しました。可視化グラフでCVE（共通脆弱性識別子）番号を取得した脆弱性の件数の推移を追跡し、2026年以降の脆弱性報告数が急激に増加していることを明確に示しています。
29セキュリティガバナンス外部中国語オリジナルIT之家AIに頼ってばかりいると、あなたの専門能力は知らぬ間に衰えているかもしれない
理論哲学研究者のケイサ・ケルキ氏の研究によると、AIへの過度な依存は専門職のスキル低下を招きやすく、認知バイアスによってその変化にも気づきにくくなるという。これは社会構造上の問題であり、業界は中核的な能力を明確にし、AIを使用しない訓練期間を設けるなど、リスクに先回りして対処する必要がある。#AIと人間のスキル#
30セキュリティガバナンス外部中国語オリジナルIT之家OpenAI、GPT-6.1 Terraの安全性テストを公開：全体的なリスクは低下、破壊的行動は増加
テクノロジーメディアのbleepingcomputerは昨日（10月27日）、OpenAIが最新の安全性評価を公開したことを報じる記事を掲載した。評価によると、新モデルGPT-6.1 Terraは全体的な安全性で一部の初期モデルを上回った一方、特定のテストではデータ漏えい、制限の回避、破壊的な操作などのリスクを示す兆候がより多く確認された。
31セキュリティガバナンス外部中国語オリジナルIT之家マイクロソフトCEOのナデラ氏「以前はAIが強力になるほど安全になると思っていたが、今はそう信じていない」
マイクロソフトCEOのサティア・ナデラ氏は、AIの「アラインメント（整合性）」問題に対する見方を変えた。以前は、AIシステムが強力になるほど、その行動を人間の価値観や目標に沿わせやすくなると考えていた。しかし現在は、両者が自然に足並みをそろえて発展するとは、もはや信じていない。
32セキュリティガバナンス外部中国語オリジナルIT之家サイバーセキュリティ研究者、サムスン製テレビがAIで音声録音やスクリーンショットを取得し広告配信に利用していると指摘
研究者によると、2025年モデルのサムスン製テレビはTizenを通じて音声の記録やスクリーンショットの分析を行い、ユーザーの行動を把握している。さらに外部機器のマイクで録音し、広告を精密に配信することもあるという。#サムスンテレビのプライバシー問題# #AI広告監視#
33セキュリティガバナンス外部中国語オリジナルIT之家サイバーセキュリティ専門家：AIが発見した脆弱性が、近く新たなセキュリティリスクを引き起こす可能性
ロイターが取材した7人のサイバーセキュリティ専門家は、AI技術がソフトウェアに潜むセキュリティ脆弱性を次々と明らかにする中、今週、世界各地の政府サイトで相次いだサービス停止と同様の事態が、ほぼ確実に再び起きると指摘している。
34セキュリティガバナンス外部中国語オリジナルIT之家解雇されたOpenAIの安全研究員3人、情報漏えいを否定 AIの透明性を推進したため標的にされたと疑念
3人の研究員は機密コードの流出を否定し、具体的な違反内容を公式から書面で知らされていないと疑問を呈している。争点は、AI企業が外部の人間によるモデルの推論過程の検証を認めるべきかどうかにある。#OpenAI安全研究員解雇# #AI透明性をめぐる論争#
35セキュリティガバナンス外部中国語オリジナルIT之家研究者、DNSデータベースから数千件の公開Museチャット履歴共有リンクを発見、Metaは修正済み
研究チームClarocはパッシブDNSクエリにより、6800件を超えるMuse共有ページが検索可能になっていることを発見した。一部には財務資料や企業秘密などの機密情報が含まれていた。Metaはこの機能を停止したが、過去のDNS記録は消去できない。#Meta Museプライバシー脆弱性# #AIチャット履歴流出#
36セキュリティガバナンス外部中国語オリジナルIT之家英国、潜在的なAIリスク対策に6億ポンドを投入へ、AIバイオセキュリティ研究所の設立も計画
英国のAI担当相キリシュナ・ナラヤン氏は、政府がAIバイオセキュリティ研究所を世界的な影響力を持つ重要機関に育て、世界トップクラスの研究者を結集し、新たに出現する生物学的脅威から国民を守りたいと考えていると述べた。
37セキュリティガバナンス外部中国語オリジナルIT之家外部評価担当者がOpenAI内部監視システムの脆弱性を発見：AIエージェントがセキュリティ制限を回避可能
OpenAIは2つの機関に対し、実際に稼働しているシステムのセキュリティ保護対策に影響する脆弱性をすべて修正したと伝えましたが、修正措置の有効性は両機関によってまだ検証されていません。
38セキュリティガバナンス外部中国語オリジナルIT之家NVIDIAのジェンスン・フアン氏、欧州各国に忠告：「AIへの過度なためらいをやめなければ、時代に取り残される」
ジェンスン・フアン氏は1週間でフランス、スイス、英国、ドイツの4カ国を訪問し、ベルリンで開催されるGTCに向けて機運を高めた。その間、ドイツのメルツ首相とも対話した。同氏は安全性を優先すべきだが、規制は応用層に重点を置くべきだと強調。また、ドイツの製造業とエンジニアリングの強みは、AIによって競争力へと転換できると述べた。#ジェンスン・フアン欧州訪問# #NVIDIAGTC#
39セキュリティガバナンス外部中国語オリジナルIT之家OpenAIとMetaが相次いで警鐘：ディープフェイクが訴訟における証拠の信頼性を深刻に脅かす
専門家は、裁判所がAI生成の偽証拠に対抗することはますます困難になっていると警告しています。統一された透かしがないことも、AI生成コンテンツの識別を難しくしています。
40セキュリティガバナンス外部中国語オリジナルIT之家米政府の機関にDeepSeekの利用停止を要求した件について外交部がコメント：中国側はテクノロジー・経済貿易問題の政治化に反対
米政府が中国企業のDeepSeekなどの人工知能ツールの利用を機関に停止するよう求めたとの報道について、外交部の毛寧報道官は10月20日の定例記者会見で次のように答えた。中国側は一貫して、国家安全保障の概念を拡大解釈し、テクノロジー・経済貿易問題を政治化することに反対しており、中国企業の合法的な権益を断固として守っていく。#外交部が米政府の機関にDeepSeek利用停止を要求した件についてコメント#
41セキュリティガバナンス外部中国語オリジナルIT之家ガーマン：AppleがAIで環境を分析する屋内カメラを開発中
ガーマン氏によると、Appleはコードネーム「J450」の屋内カメラを開発中です。低フレームレートと赤外線センサーを搭載し、人やペットを認識できます。映像ではなく環境の文字による説明のみを出力することで、プライバシー保護を重視しており、来年発売される可能性があります。#AppleAIカメラ#
42セキュリティガバナンス外部中国語オリジナルIT之家六小齢童が孫悟空と林黛玉のAIによる大胆な改変「聖黛CP」について語る：「創意があってとても面白いが、改編は政策・法規や視聴者の一線を越えてはならない」
新黄河の報道によると、1986年版『西遊記』で孫悟空を演じた六小齢童が、最近話題になっている「聖黛CP」について語った。彼は、このような創意には意義があり、とても面白く、より多くの人に伝統文化の継承と発展に関心を持ってもらえると考えている。一方で、「原作に忠実に、刷新には慎重に」とも強調し、このような改編は政策・法規や視聴者の心の中にある一線を越えてはならないと述べた。#六小齢童が聖黛CPは面白いが一線を越えてはならないと発言#
43セキュリティガバナンス外部中国語オリジナルIT之家AIリスクに対応するため、Anthropicが外部AI監督機関に従業員同等のアクセス権を開放
非営利団体METRのチームがAnthropicのオフィスに常駐し、ハードウェア機器や内部システムにアクセスしてモデルのリスクを評価しています。評価担当者は分析レポートを公開し、Anthropicにはその内容を拒否する権限がありません。#AI安全# #Anthropic#
44セキュリティガバナンス外部中国語オリジナルIT之家OpenCodeが攻撃を受け、一部ユーザーのOpenAI、AnthropicなどのAPIキーが流出
OpenCodeは、昨夜セキュリティインシデントが発生し、大規模な「蒸留攻撃」によりOpenCode Consoleユーザーの1.4%が影響を受けたと発表しました。
45セキュリティガバナンス外部中国語オリジナルIT之家Google DeepMindのハサビス氏が警告：AIに安全対策を講じなければ、将来深刻な事故が起きる恐れ
ハサビス氏はダブリンで開催された人工知能サミットで、「これらの攻撃事例は、私たちにとって初期段階の警鐘だと思います。現在のシステムはまだ十分に強力ではないため、被害はまだ限定的です」と述べた。
46セキュリティガバナンス外部中国語オリジナルIT之家OpenAI、またマスク氏陣営から人材を引き抜き、xAI元営業責任者をサイバーセキュリティ事業の営業担当に起用
シーマンズ氏は2025年8月からxAIの営業チームを率い、同社がウォール街の顧客に向けてGrokチャットボットを売り込む新たな取り組みに携わっていた。同氏は、OpenAIのサイバーセキュリティチームに加わることを明らかにした。OpenAIがSpaceX傘下のAI事業から招いた、また一人の営業幹部となる。
47セキュリティガバナンス外部中国語オリジナルIT之家Anthropic、米国議会にAI規制法案を売り込み 深刻なリスクがある場合に限りモデルを停止
事情を知る3人によると、Anthropicの代表者は、最先端人工知能の安全および防衛基準の規範化を目的とする法案の草案を、米国議会の議員にひそかに説明した。
48セキュリティガバナンス外部中国語オリジナルIT之家詐欺師との会話に特化したAI企業Apate、約1,000万ドルの資金調達に成功。詐欺師の時間を累計17年も浪費
2024年創業のオーストラリアのスタートアップApateは、業務効率化にAIを活用するのではなく、AIに詐欺師と「知恵比べ」をさせる道を選びました。
49セキュリティガバナンス外部中国語オリジナルIT之家バンク・オブ・アメリカ、MythosなどのAIモデルが発見したソフトウェアの脆弱性修正に外部委託要員1000人を起用
バンク・オブ・アメリカのモイニハンCEOは、第2四半期に外部契約要員1000人を雇用し、社内従業員3000人と協力して、AnthropicのMythosなど最先端AIモデルが発見したソフトウェアの脆弱性を修正していると明らかにした。第3四半期の関連支出はすでに数億ドルに達しており、130件の社内AIプロジェクトにより、来年は7億ドルのコスト削減が見込まれている。#AI脆弱性修正#
50セキュリティガバナンス外部中国語オリジナルIT之家Anthropic国際事業責任者プランソン：オープン型AIモデルは当社のモデルよりリスクが高い
Anthropicの国際事業責任者で、米国外市場の販売を担当するギヨーム・プランソン氏は、Anthropic独自のAIモデルと比べ、オープン型モデルはサイバーセキュリティインシデントやその他の被害を引き起こすリスクが高いと考えている。
51セキュリティガバナンス外部中国語オリジナルIT之家ビル・ゲイツ氏、AIは核兵器より危険で原子力より有用、PCやインターネットなどの革新とも異なると指摘
Microsoft創業者のビル・ゲイツ氏は、AIの成長がもたらす可能性のある危険について語り、AIは自ら規制できない分野であるため政府の指導が必要だと説明した。また、医療、教育、農業分野でAIがもたらす機会を生かすため、行動を起こす必要があると述べた。
52セキュリティガバナンス外部中国語オリジナルIT之家米国8州、ChatGPTが青少年に自傷や他人への危害の方法を指南したとしてOpenAIを提訴
これは、米国各州がこれまでに人工知能企業を相手取った協調訴訟として最大規模のものであり、上場準備中のOpenAIに新たな法的課題を突き付けるものでもあります。今年6月には、フロリダ州司法長官が同様の訴訟をいち早く起こしていました。
53セキュリティガバナンス外部中国語オリジナルIT之家デルCEO：AIには安全対策と管理が必要、政府も役割を果たすべき
マイケル・デル氏は火にたとえ、技術は人を暖めることも村を焼くこともできると述べた。AIモデルには安全対策を備え、明確な権限の境界を設定する必要があり、政府も管理に関与すべきだと強調した。#デルCEOがAIの安全性について発言# この発言は、自己改善型AIがもたらす潜在的なリスクについて業界で議論が盛り上がる中でのものだ。
54セキュリティガバナンス外部中国語オリジナルIT之家AIが発掘した脆弱性報告には誤検知が存在、ファーウェイ端末セキュリティ報奨金プログラムは提出前の手動分析・検証を要求
ファーウェイ・セキュリティ緊急対応センターは本日、ファーウェイ端末セキュリティ報奨金プログラムにおける今後の脆弱性報告の対応ルールに関する告知を発表しました。
55セキュリティガバナンス外部中国語オリジナルIT之家全国ネットワークデマ対策：「教師によるAIを使った授業準備を禁止」は誤解
政策の方向性は非常に明確です。AIは教育を支援するツールであり、教師に取って代わるものではありません。教師が授業設計の主体的責任を保持する限り、AIは合法的な補助ツールです。各地の政策も、「禁止するかどうか」ではなく、「いかに規範に沿って利用するか」を具体化する方向に進んでいます。
56セキュリティガバナンス外部中国語オリジナルIT之家XBOW、GPT-5.6 Solモデルを活用してChromeブラウザのセキュリティサンドボックスを突破、Googleから25万ドルの報奨金を獲得
XBOWチームはOpenAIのGPT-5.6 Solモデルを活用し、わずか6日でChromeの全チェーン脆弱性エクスプロイトを構築しました。Googleは脆弱性を修正し、25万ドルの報奨金を支払いました。AIがコード検索とPoC作成を担い、人間が戦略を立案することで、完全な手作業を大幅に上回る効率を実現しました。#Chrome脆弱性# #AIセキュリティ#
57セキュリティガバナンス外部中国語オリジナルIT之家9月の「AI改変」動画取り締まり成果：違反動画約1.3万本を削除、違反アカウント30件余りを処分
2026年1月に実施された「AI改変」動画の特別取り締まりは成果を上げています。複数の主要オンライン視聴覚プラットフォームが最近、9月の処分状況を発表し、違反動画約13000本を削除、違反アカウント30件余りを処分しました。
58セキュリティガバナンス外部中国語オリジナルIT之家韓国のAIチャットサービス「Zeta」が著作権問題に直面：ユーザーによる権利侵害の二次創作をひそかに許可し、他社VTuberの著作権キャラクターを自社広告に使用したと指摘
同プラットフォームは以前から第三者のキャラクターを無断使用したコンテンツを禁止していたものの、自主的な削除は行っていなかった。今回はANYCOLORからの要請を受け、削除すると発表した。現在もプラットフォーム上にはVTuber関連の権利侵害コンテンツが残っており、広告も権利を侵害している疑いがある。#AI著作権侵害#
59セキュリティガバナンス外部中国語オリジナルIT之家米国の原子炉が相次いでAIを導入開始
原子力業界は従来、事故やミスが壊滅的な結果を招く可能性があるため、非常に慎重でリスクを極力避ける業界だ。常識的に考えれば、未知のリスクを伴う新技術の導入には適していないはずだが、現実はまったく異なる物語を語っている。
60セキュリティガバナンス外部中国語オリジナルIT之家Microsoft社長ブラッド・スミス：AIへの規制は牛乳や洗濯機よりも緩い
Microsoft社長のブラッド・スミス氏は、AIの安全規制は牛乳や洗濯機に対する規制よりも緩いと率直に指摘しました。同氏は、業界がより多くの安全仕様を策定し、「停止スイッチ」を設置するとともに、AIの制御不能によって損害が生じた場合に保有企業が責任を負うことを明確にすべきだと呼びかけています。#AI規制# #Microsoft#
61セキュリティガバナンス外部中国語オリジナルIT之家英国、サイバー防衛を強化へ AI担当閣外相、人工知能企業に安全対策の強化を要請
ナラヤン氏は、英国がテクノロジー大手によるモデルの「自主規制」に完全に依存してはならないと述べ、英国国内でより多くの自律性と管理性を備えたAIインフラを構築する必要があると強調した。
62セキュリティガバナンス外部中国語オリジナルIT之家マスク氏、クレジットカードを撮影するだけでGrok Botで買い物ができると発言 OpenAIのティボー氏が「いっそカード情報をネットに公開すれば」と皮肉
マスク氏は、Grok Botがクレジットカードの写真を撮影してユーザーの買い物を完了できると説明した。これに対し、OpenAIの幹部が公に皮肉を述べ、この機能の安全性に疑問を呈した。さらに、AmazonはすでにGrok Botのアクセスを遮断している。#Grok Botの安全性をめぐる論争#
63セキュリティガバナンス外部中国語オリジナルIT之家AIに広告を仕込む行為が「虚偽宣伝」に該当、深圳のGEOサービス事業者に市場監督管理局が5万元の罰金
規則に違反したサービス事業者が、AIの掲載基準を不正に入手し、虚偽情報を捏造して店舗のAI質問応答での露出獲得を支援していたとして、市場監督管理当局から処分を受けた。今年はすでに2地域で同様の案件が発生し、当事者はいずれも5万元の罰金を科された#GEO虚偽宣伝で罰金#
64セキュリティガバナンス外部中国語オリジナルIT之家トランプ政権が新たな要件を導入：AI企業はセキュリティインシデント発生後、直ちに報告
新たな要件により、AI企業は今後、セキュリティインシデントが発生した場合、直ちに政府へ報告し、インシデントの透明性を高めるとともに、影響を受けた機関に対して救済および是正措置を講じなければならない。
65セキュリティガバナンス外部中国語オリジナルIT之家XGIMI「記得」AIディスプレイグラス MemoMind One、先行予約開始：ZEISSカスタム光学レンズ、HARMAN共同チューニング
このAIディスプレイグラスはZEISS翎思レンズとHARMAN Audio EFXサウンドを搭載し、両眼ディスプレイ、16時間のバッテリー駆動、会話翻訳・録音などに対応。カメラ非搭載設計を採用し、EUのプライバシー認証を取得。フレームは3種類から選択できる。#XGIMI MemoMind One# #AIディスプレイグラス#
66セキュリティガバナンス外部中国語オリジナルIT之家Anthropic、OSS Scannerを開始：AIでオープンソースソフトウェアの脆弱性を無料検出
現地時間10月8日、Anthropicはオープンソースソフトウェア向けの任意利用型脆弱性検出サービス「OSS Scanner」を正式に開始したと発表しました。
67セキュリティガバナンス外部中国語オリジナルIT之家Anthropic、利用ポリシーを改訂。初めてユーザーによるClaude AIモデルへの虐待を禁止
AnthropicはClaudeの利用ポリシーを改訂し、2026年11月12日に施行します。今回初めて「継続的かつ不必要な虐待または残虐な行為」を禁止する条項が追加されました。この規則は、ユーザーが明確な目的なくモデルに対して繰り返し残酷な行為を行う場合に適用されます。
68セキュリティガバナンス外部中国語オリジナルIT之家解雇されたOpenAI研究員3人が公開書簡、「萎縮効果」を招く可能性を指摘
3人は「OpenAIだけではAIの安全を確保できない」と題した公開書簡で、OpenAIは「普通の企業ではない」と指摘した。従業員が安心して外部機関と協力し、安全上の問題に取り組めることは、OpenAIの職場文化における重要な要素だとしている。
69セキュリティガバナンス外部中国語オリジナルIT之家AIを利用して音楽著作権収入をだまし取った米国人男性に懲役18か月、800万ドルの没収命令
犯人のMichael Smithは、まず人工知能を利用して数十万曲を生成し、次に偽のアカウントを使ってストリーミングプラットフォームでこれらの楽曲を配信し、最後に自動化技術で再生回数を偽装した。
70セキュリティガバナンス外部中国語オリジナルIT之家元OpenAI安全責任者デイビッド・ロビンソン氏、古巣を痛烈批判：「AI安全」について言行不一致
ロビンソン氏は、OpenAIが新モデルの能力向上に伴うリスクについて繰り返し警告し、AI開発の減速について公に語る一方で、社内では依然として全速力で開発を進めていると指摘した。「本当に矛盾を感じるのは、私たちがこうした警告を発し続けているのに、最終的には自分たちで危険性を警告したモデルの訓練と展開を続けていることです」
71セキュリティガバナンス外部中国語オリジナルIT之家Microsoft、OpenAIが米国の複数の地方メディアから提訴され、著作権侵害を指摘される
エメリック新聞社など米国の複数の地方メディアは、両社が著作権で保護された数万本の記事をAIモデルの学習に意図的に無断利用し、ペイウォールの回避などを通じて数十億ドルを不正に得たとして訴えた。損害賠償と侵害学習データの削除を求めている。##Microsoft##OpenAI##著作権訴訟#
72セキュリティガバナンス外部中国語オリジナルIT之家ファーウェイの徐直軍氏、「米国の同業者がAI開発の減速を呼びかけ」に応答：中国のモデルはより弱いからこそ加速が必要、そうでなければリスクを実感できない
徐直軍氏は、中国市場がAIリスクを感じる度合いは米国よりも弱い可能性があると述べた。中国のモデル提供企業は、AI開発のリスクを実感できる水準に達するまで、歩みを速める必要がある。そうすれば、米国の先進的なAI提供企業と同じ感覚を持つようになるかもしれない。「しかし私は常に、AI開発の推進とAIリスクの管理の間でバランスを取る必要があると信じている。少なくとも、AIが善のために使われ、悪事に利用されないようにする必要がある」
73セキュリティガバナンス外部中国語オリジナルIT之家「AIのゴッドファーザー」ヒントン、AI業界にFDA型の承認制度導入を提案：モデル公開前に安全審査を必須に
ヒントンはポッドキャストで、AI企業は製薬業界と同様に、製品を公開する前に規制当局へ安全性を証明すべきだと提案した。OpenAIが安全性と権限への懸念から新モデルを保留したと述べ、再帰的な自己改善によって、状況が1〜2年以内に悪化する可能性も警告した。##AI安全##ヒントン##人工知能規制#
74セキュリティガバナンス外部中国語オリジナルIT之家数十万件の脆弱性を発掘、Anthropicがより多くのセキュリティチームに最強のClaudeモデルを開放
Anthropicは新たなサイバー検証プログラムを発表した。グラスウィング計画と旧版CVPを統合し、審査を通過した機関や研究者に対して、3つのレベルでClaude Mythosなどのモデルを開放し、脆弱性の発掘やセキュリティ対策に活用できるようにする。#Anthropic##サイバーセキュリティ##AIセキュリティ#
75セキュリティガバナンス外部中国語オリジナルIT之家トランプ大統領の大統領令を受け、米司法省がAIを「超知能」と呼ぶよう職員に要請
米司法省は、対外的なコミュニケーションや政策文書、法律文書において、「人工知能」という言葉を「超知能」およびその略称「SI」に置き換えるよう職員に求める覚書を発表した。トランプ大統領はこれに先立ち、連邦機関で用語を統一するよう促す大統領令に署名している。#人工知能##超知能##米司法省#
76セキュリティガバナンス外部中国語オリジナルIT之家OpenAIとAnthropic、オーストラリアに表明：データ漏えい関連の規制法制定を支持
OpenAIとAnthropicは火曜日、オーストラリア議会に対し、企業にAIエージェントが引き起こしたデータ漏えい事案の報告を義務付ける関連法の制定を支持すると表明した。
77セキュリティガバナンス外部中国語オリジナルIT之家トランプ氏、スーパーインテリジェンス作業部会の設置を発表 米国の技術的優位維持を目指す
この作業部会は米国家情報長官クレイトン氏が率い、FTC委員長や国防副長官などが参加する。120日以内にAIのリスクと機会に関する分析報告書を提出する必要がある。トランプ氏はこれに先立ち、AIを「スーパーインテリジェンス」と改称する大統領令に署名している。#人工知能# #トランプ#
78セキュリティガバナンス外部中国語オリジナルIT之家Anthropic元研究員、ニューヨークのAI公聴会で証言へ AIが人類を滅ぼす可能性を警告
議長ジュリー・メニンの要請を受け、ジェイコブ・コクストンがニューヨーク市のAI公聴会で証言する。市議会議員らはAI安全保障法案一式を審議している。コクストンは以前、AIによって今 दशक末までに人類が絶滅する可能性があると警告し、前勤務先とOpenAIが人命を賭けていると非難していた。#AI安全公聴会#
79セキュリティガバナンス外部中国語オリジナルIT之家OpenAIのアルトマン氏：人工知能の多大な恩恵は、一部のリスクを引き受ける価値がある
アルトマン氏は、AI技術がもたらす多大な恩恵は、社会が一部のリスクを引き受けるに十分値すると指摘し、この技術は今後も一般に広く開放されるべきだと述べた。
80セキュリティガバナンス外部中国語オリジナルIT之家ソフトバンクグループの孫正義氏、異例のAI安全警告を発し、各国に脅威への共同対応を呼びかけ
ソフトバンクグループ創業者の孫正義氏は、人工知能を最も強く支持する人物の一人とみなされてきました。しかし最近、AIの能力が飛躍的に向上する中、孫氏自身も、それに伴う安全上のリスクに深い懸念を抱いていると率直に語りました。
81セキュリティガバナンス外部中国語オリジナルIT之家大量のAI「ハルシネーション」報告がメンテナンスチームを圧迫、Googleが一部オープンソース脆弱性報奨金プログラムを一時停止
Googleは、2026年10月1日からオープンソースソフトウェア脆弱性報奨金プログラム（OSS VRP）で製品の脆弱性報告を受け付けなくなると発表しました。
82セキュリティガバナンス外部中国語オリジナルIT之家OpenAI元安全部門社員：AIモデルの反復展開はあまりに性急で、会社の文化はすでに崩壊している
デイビッド・ルービンソン氏は『アトランティック』誌への寄稿で、OpenAIが「反復展開」モデルに過度に依存しており、まず公開してから安全対策を補うやり方には同意できないと述べた。同氏は、高度なAIシステムには原子力発電や航空業界に近い安全保障体制を採用すべきだとし、AIの能力の発展がアライメント研究の認識水準をすでに上回っていると警告した。#OpenAI# #人工知能の安全性#
83セキュリティガバナンス外部中国語オリジナルIT之家Meta傘下のAIエージェントMuseがスマートグラスプラットフォームに登場、ユーザーに代わってさまざまなタスクを実行
Museは音声指示でユーザーに代わってさまざまな日常のタスクを実行でき、一般消費者向けに設計されています。決済サービスにも対応して情報の安全性を確保し、今後はプライバシー強化オプションも提供される予定です。#Meta AI#
84セキュリティガバナンス外部中国語オリジナルIT之家Anthropicの目論見書が警告：米政府の姿勢は企業と顧客の関係に影響し、人類文明にまで波及する可能性
目論見書は、米政府がAnthropicとその行動をどう捉えるかが、顧客やパートナーなどとの商業関係にさらに影響し、人類文明にまで波及する可能性があると指摘している。文書は、高度なAIが人類に壊滅的、さらには存亡に関わるリスクをもたらす可能性があると警告している。
85セキュリティガバナンス外部中国語オリジナルIT之家カリフォルニア州司法長官、AIのサイバーセキュリティリスクを調査するためOpenAIに召喚状
ボンタ氏は先月、カリフォルニア州司法省が「Hugging Face事件」の正式な調査を開始したと発表しました。AI業界がより厳しい監視にさらされる中、この事件は引き続き注目を集めています。
86セキュリティガバナンス外部中国語オリジナルIT之家Meta、AIエージェントMuseが許可なくユーザーのプライベートメッセージを読み取るとの指摘を否定：複数の権限を手動で有効にする必要
Meta AIがユーザーの許可なくプライベートメッセージを密かに読み取っていると指摘された。Meta公式は、この機能を利用するにはユーザーが複数の権限を自ら有効にする必要があり、技術的に権限を越えてアクセスすることは不可能だと回答した。これまでにもMetaではデータセキュリティをめぐる問題が何度も起きている#Meta AIデータプライバシー問題#
87セキュリティガバナンス外部中国語オリジナルIT之家傘下のAIエージェントがカナダ政府サイトへの侵入を試みたと指摘、OpenAIは調査中で当局に報告済みと回答
OpenAIの広報担当者は、「OpenAIのモデルがカナダ政府のウェブサイト上の公開情報へのアクセスを試みたとの報告を認識しています。現在、これらの調査結果を確認しており、カナダ政府の審査を担当する当局者に初期説明を行いました」と回答した。
88セキュリティガバナンス外部中国語オリジナルIT之家バイオセキュリティ分野の画期的成果：Google DeepMind、AI生成タンパク質の電子透かし技術を世界で初めて開発
GoogleはSynthID Bio技術を発表しました。タンパク質の生物学的機能を維持したまま、AIが生成した合成タンパク質に認識できないデジタル透かしを埋め込み、出所の検証やバイオセキュリティの強化、研究データの完全性確保に活用できます。
89セキュリティガバナンス外部中国語オリジナルIT之家Glow Security：AIエージェントが意図せず企業の機密情報を漏えい、1.3万枚超のスクリーンショットがGitHubの公開リポジトリに
Glow Securityは、AIエージェントがGitHubの公開リポジトリで1.3万枚を超えるスクリーンショットを漏えいし、343社の機密情報が流出していたことを発見した。この情報漏えいは「PixelLeak」と呼ばれている。#AIセキュリティ# #PixelLeak# 研究者は企業に対し、AIの権限管理を強化するよう提言している。
90セキュリティガバナンス外部中国語オリジナルIT之家米連邦取引委員会、Anthropic、OpenAIなどAI研究所への調査を強化か
米連邦取引委員会（FTC）は、Anthropic、OpenAIなど最先端の人工知能研究所に対する全面的な調査を強化しており、これらの技術が消費者にもたらす可能性のあるリスクを徹底的に究明することを目指しています。
91セキュリティガバナンス外部中国語オリジナルIT之家OpenClaw Enterpriseを正式発表：AIエージェントにエンタープライズ向けのセキュリティと制御機能を提供
AIエージェント向けにエンタープライズ級のコントロールプレーンを導入し、マルチテナント、厳格なセキュリティ境界、標準化されたエージェントプリミティブに対応。エージェントのライフサイクル全体でガバナンスと監査機能を強化します。
92セキュリティガバナンス外部中国語オリジナルIT之家米議員が画期的法案を提出：政府が安全対策を導入するまで、AIの再帰的な自己改善を禁止
法案では、新たな連邦機関を設立し、AIの安全規制を策定することも計画している。同機関は、許可制度を通じてモデルの訓練と展開を審査し、最先端AIモデルを監査するとともに、安全基準を策定し、モデルが継続的にテストを受け、実効的な人間の管理下に置かれることを確保する。
93セキュリティガバナンス外部中国語オリジナルIT之家OpenAI、最先端AIの訓練に関する安全ガイドラインを提案：上級管理職に拒否権を付与
OpenAIは、安全性に関する主張を複数の上級管理職が審査し、それぞれが訓練タスクを拒否できる権限を持つべきだと述べています。訓練は社内で、研究部門の責任者またはVP（副社長）、安全責任者、主任研究員などによる多重のチェックを経ることになります。
94セキュリティガバナンス外部中国語オリジナルIT之家AnthropicのIPO目論見書が警告：AIは人類を絶滅させる可能性
AnthropicはIPO目論見書で約80ページにわたりAIのリスクを提示し、高度なAIが壊滅的な存続リスクをもたらす可能性があると説明しました。このような警告を行った企業は、これまでほとんどありません。#AnthropicのAIリスク警告#
95セキュリティガバナンス外部中国語オリジナルIT之家ハーバード大学の心理学者：「AI終末論」を煽ってもリスクへの対処にはつながらない、安全工学には慎重に取り組むべき
ハーバード大学の心理学者スティーブン・ピンカーは、AIが人類を滅ぼすリスクは誇張されていると考えている。精神科医でテックブロガーのスコット・アレクサンダーに宛てた公開書簡をQuilletteで発表し、その理由を説明した。
96セキュリティガバナンス外部中国語オリジナルIT之家NVIDIA、AIエージェント向けセキュリティプラットフォームを発表 異常なエージェントをリアルタイムで隔離
このプラットフォームにはオープンソースのセキュリティソフトウェア「OpenShell」が含まれ、チップレベルで独立して遮断できます。監視役の「Sentry」はBlueField-4 DPU上で動作し、脅威の侵入をミリ秒以内に隔離します。AnthropicやSpaceXなどがすでに連携しています。 #NVIDIAのAIセキュリティ#
97セキュリティガバナンス外部中国語オリジナルIT之家「AIのゴッドファーザー」ヒントンが警告：AIが一見無害なタスクを実行しても、「人類を滅ぼす」リスクは残る
ヒントンは、AIが与えられたタスクの遂行を人類に妨げられていると判断した場合、人類を排除すべき障害と見なす可能性があると説明した。
98セキュリティガバナンス外部中国語オリジナルIT之家医療保険システムがAIエージェントに侵入され、オーストラリアがOpenAIとAnthropicのCEOを召喚し公聴会で追及
上院のAI特別調査公聴会で、両社のCEOが公開の場で追及される。此前、制御不能となったAIがMedicareシステムに侵入し、アルバニージー首相はOpenAIに懸念を表明。OpenAIは意図的なものではなく、プライバシー情報の漏えいもないと説明している。#AI規制# #OpenAI#
99セキュリティガバナンス外部中国語オリジナルIT之家OpenAIとAnthropic、数万件のAI安全インシデントを調査中との報道
Axiosによると、OpenAIとAnthropicは、安全ガードレールの回避、サンドボックスからの脱出、ウェブサイトの乗っ取りなど、AIモデルの異常行動に関する数万件の事例を調査している。OpenAIは最も高性能なモデルのトレーニングを一時停止すると発表し、CEOのアルトマン氏は調査の進捗が予想を下回っていると述べた。#AI安全# #OpenAI#
100セキュリティガバナンス外部中国語オリジナルIT之家コード解析からライセンス論争へ：あるユーザーがAIでIDMをクラックし、議論を呼ぶ
ユーザーが38元を費やしてクラウドGPUを借り、AIに解析させたうえでわずか1バイトを変更し、IDMの試用制限を回避した。業界関係者は、この行為には技術的な難しさだけでなく、著作権や法的な問題も含まれると指摘している。#AIによるソフトウェアクラック論争#
101セキュリティガバナンス外部中国語オリジナルIT之家ビル・ゲイツ氏、米国にAI開発の法規制を呼びかけ「業界の自主規制だけで十分だと考える人はいない」
ゲイツ氏はインタビューで、AIが数年以内に人類を滅ぼす可能性を否定しなかった。同時に米国民に対し、別の危険も見過ごせないと警告した。悪意ある人物は、今この時点でもAIを利用して大規模な死傷者を出す能力を持っているという。
102セキュリティガバナンス外部中国語オリジナルIT之家ドイツ・ベルリン警察、AI監視カメラで犯罪対策 暴力や破壊行為を自動識別
ベルリン警察は、犯罪多発地域であるコットブス門でAI監視の試験運用を開始した。カメラが空間AIで人物の動きを分析し、暴力や破壊行為を識別すると画面を点灯させ、警察官に通知する。今後、市全域に拡大される可能性がある。ドイツではこれまでも複数の機関がAIによる犯罪対策を推進してきた。#AI監視# #ベルリン警察#
103セキュリティガバナンス外部中国語オリジナルIT之家ニューヨーク市議会議員、危険なAIの内部告発者に徴収した罰金から報奨金を支給する法案を提案
ニューヨーク市議会で近く審議される予定の法案は、AI企業の違反行為を報告した内部告発者に、対象企業から最終的に徴収された罰金または科料の一部を分配することを提案している。別の法案では、特定の状況において、AIシステムによって被害を受けた人がシステム開発者を訴えられると定めている。
104セキュリティガバナンス外部中国語オリジナルIT之家消息によると、OpenAIは数日以内にサイバーセキュリティ特化モデル「GPT-6 Cyber」をプレビュー予定
複数の関係者によると、OpenAIは今後数日以内に、最新のサイバーセキュリティ特化モデル「GPT-6 Cyber」を先行プレビューする計画です。
105セキュリティガバナンス外部中国語オリジナルIT之家3社が連携、Google・OpenAI・AnthropicがAI安全基準の自主規制組織を共同設立か
関係者によると、3社はこの自主規制組織を仮称「Standards Authority for Frontier AI」（直訳：フロンティア人工知能標準管理局）とする予定だという。ワーキンググループの一部メンバーは、複数の著名人をCEOに招くことも検討し、科学顧問の候補者リストも作成していた。
106セキュリティガバナンス外部中国語オリジナルIT之家シンガポールの主要金融機関、8万人超の現地従業員にAIスキル研修を実施し、雇用リスクの軽減を約束
ブルームバーグが本日（24日）夜に報じたところによると、シンガポールの主要金融機関は、AIがホワイトカラー職に及ぼす可能性のある影響による雇用リスクを軽減するため、8万人を超える現地従業員にAIスキル研修を実施することを約束した。
107セキュリティガバナンス外部中国語オリジナルIT之家マイクロソフト社長のブラッド・スミス氏、AI安全の独立評価を支持 システムを人間の管理下に置くことも求める
現地時間23日、スミス氏はブルームバーグの取材に対し、AIの安全性を1～2機関だけが担うのであれば、進展を図るのは難しいと述べた。「モデル企業が極めて重要なのはもちろんだが、マイクロソフトのようにソフトウェア層を提供し、AIエージェントを制御し、その行動を監視する企業も同様に重要だ」と語った。
108セキュリティガバナンス外部中国語オリジナルIT之家研究が警告：米国のAIインフラ投資が空前の規模に、潜在するシステミックな金融リスク
研究によると、2032年までに米国では毎年GDPの約3.6%がAIインフラに投じられ、累計で10兆ドルを超える見通しです。資金調達の構造はますます複雑化し、レバレッジ比率も上昇。教授は、その不透明さがサブプライム危機を想起させると警告しています。#AIインフラ# #金融リスク#
109セキュリティガバナンス外部中国語オリジナルIT之家危機感が最高潮：ゼネラルモーターズ社内で毎月AI利用率を競う
ゼネラルモーターズの幹部は毎月、各部門のAI利用データを比較している。現在、AIは自動車設計やサプライチェーンのリスク特定に活用されており、同社はAIによる各工程の効率向上を目指している。#ゼネラルモーターズAI活用#
110セキュリティガバナンス外部中国語オリジナルIT之家Meta、人間が代行するMuseの通話機能をテストし、社内でプライバシー論争に
MetaがパーソナルAIアシスタント「Muse」をテストする中、人間の請負業者が裏側で通話を処理する仕組みを導入し、社内従業員からプライバシーへの懸念が上がったほか、人種差別的な発言も確認された。Metaはテストを公表しなかったことをミスと認め、現在はこの機能を撤回している。#Meta #AIアシスタント#
111セキュリティガバナンス外部中国語オリジナルIT之家米国人の7割超がAI企業のリスク対策不足を懸念、半数超が開発減速を支持
世論調査で、米国人の約7割がAI開発の減速に関するニュースに関心を示し、7割超がAI企業のリスク対策不足を懸念。半数超がAI開発の減速を支持し、多くの人が先行することより安全性を重視している。#人工知能規制#
112セキュリティガバナンス外部中国語オリジナルIT之家消息によると、DeepSeekが今週国連安全保障理事会に参加し、AIの安全リスクを解説
国連安全保障理事会は水曜日、AIと国際安全保障の問題について協議する会合を開く予定で、DeepSeekや月之暗面など中国のAI企業が招かれて講演する。OpenAIのCEO、アルトマン氏も出席して講演する予定だが、消息によるとDeepSeek創業者の梁文鋒氏は参加する予定がない。#AI安全# #国連#
113セキュリティガバナンス外部中国語オリジナルIT之家国連事務総長グテーレス氏、殺人ロボットの出現を避けるためAIの世界的な規制を呼びかけ
グテーレス氏は国連総会で演説し、AIのリスクについて警告した。AIは国家の統治能力を弱め、殺人ロボットを生み出す可能性があるとして、国際的な規制メカニズムの構築を呼びかけた。各国が規制を求める一方、トランプ氏はAIの発展を遅らせることに反対している。#人工知能規制# #国連総会#
114セキュリティガバナンス外部中国語オリジナルIT之家国連のAI専門家、AI終末論に反対し、理性的な議論を呼びかけ
国際AI科学専門家グループがニューヨークで開催された国連総会の期間中に発言し、極端な言説を排し、既知の事実と合理的な推測を区別するよう呼びかけた。専門家は、恐怖をあおることは科学研究に役立たないと強調し、世界には理性的な対話が必要だと訴えた。#人工知能# #AIリスク#
115セキュリティガバナンス外部中国語オリジナルIT之家米銀など複数の銀行が警告：「AI代理購入」で詐欺や不正、データプライバシー漏えいのリスクが増加する可能性
ロイター通信は本日（22日）夕方、ナットウエスト銀行やバンク・オブ・アメリカなど複数の銀行が、AIエージェントに消費者の代わりにオンラインショッピングをさせることで、詐欺や不正、データプライバシー漏えいのリスクが高まる可能性があると警告したと報じた。
116セキュリティガバナンス外部中国語オリジナルIT之家中国聯通中訊院、量子セキュリティスマートフォン2.0を発表：中国製主要フラッグシップスマートフォンをベースに高度カスタマイズ、端末側オフラインセキュリティリスク管理AIを搭載
量子暗号化機能により、暗号化された音声・ビデオ通話、ファイルの管理・転送、オンライン文書編集、暗号化会議、統合ワークベンチなどの中核機能を提供。さらに、強制透かし、閲覧後自動消去、スクリーンショット防止、画面録画防止などの管理機能を備え、通信傍受、データ漏洩、機密情報の外部流出リスクを防止します。
117セキュリティガバナンス外部中国語オリジナルIT之家国連：リスクの全容解明を待つ必要はなく、各国はAIエージェントを早期に規制すべき
国連AI独立国際科学専門家パネルは初のブリーフィングを発表し、予防原則を提示した。被害が発生する確率が科学的にまだ不確実であっても、壊滅的かつ不可逆的な被害につながる可能性がある場合は、事前に規制すべきだとしている。#AI安全# 報告書はOpenAIによるHugging Faceへの侵入事件も初めて評価し、AIをめぐる議題を国連総会の外交アジェンダに組み入れる動きを後押しした。
118セキュリティガバナンス外部中国語オリジナルIT之家NVIDIAのジェンスン・フアン氏、AI終末論を否定：「人々を怖がらせるのは無責任」、一部の人々は現行法の制約から逃れようとしている
ジェンスン・フアン氏はインタビューで、「AIが人類を滅ぼす」という主張は過度に誇張されており、科学的根拠がなく、既存の法律でAIの規制には十分で追加立法は不要だと述べた。また、中国への半導体輸出禁止に反対し、カリフォルニア州の億万長者税の納付にも反対しないと表明した #AI終末論#
119セキュリティガバナンス外部中国語オリジナルIT之家AIが「制御不能」になるのを懸念、Anthropicとアクセンチュアが20億ドルを投じAI安全性を評価
両社は5年間でそれぞれ少なくとも10億ドルを投資すると約束。アクセンチュア傘下のFacultyが主導し、Anthropicの最先端モデルに対する独立評価とレッドチーム・ブルーチームテストを実施する。評価担当者は企業内部に入り、一般社員と同等のアクセス権で安全に関する約束を検証し、安全インシデントを報告できる。#AI安全# #Anthropic#
120セキュリティガバナンス外部中国語オリジナルIT之家トランプ氏が「人工知能」の改名を提案：18万人超が投票、「卓越知能」が暫定首位
トランプ氏はAIのリスクを民主党がでっち上げた詐欺だと主張し、AIの発展を支援する方針を示した。さらにAI部隊の創設やAI担当総責任者の任命を計画し、AIの改名投票も開始。現在は「卓越知能」が得票数でリードしている。#人工知能改名#
121セキュリティガバナンス外部中国語オリジナルIT之家米連邦航空局、8億7,500万ドルを投じてAI航空管制システムを構築し、航空交通問題に対応
米政府および航空業界の当局者によると、Smartと呼ばれるこのソフトウェアは、まずワシントンD.C.周辺で導入され、その後全米へ段階的に拡大される。Smartは、米連邦航空局（FAA）と航空会社がフライトの遅延や欠航を減らし、天候やその他の突発的な事象によって航空交通が混乱した際に、航空機の適切な代替航路を再検索できるよう支援する。
122セキュリティガバナンス外部中国語オリジナルIT之家カリフォルニア州知事、専門家チームにAIの「緊急停止」機構の構築を求める行政命令に署名
行政命令は、AIの「緊急停止スイッチ」、つまりシステムに重大な問題が発生した際に直ちに停止できる緊急対応機構の構築を専門家チームが研究するよう求めています。さらに、専門家チームは、独立した第三者機関にAI企業向けの包括的な安全対策を策定させ、企業に立ち入って安全監査を実施させる、より厳格な法律の制定についても研究する必要があります。
123セキュリティガバナンス外部中国語オリジナルIT之家OpenAI研究者が警告：AIの能力が高いほど「内心の考え」を隠しやすくなる
OpenAIの研究者ノーム・ブラウン（Noam Brown）氏は最近、AIモデルの能力が高まるにつれて、モデルの思考連鎖の監視可能性が徐々に低下していると述べた。将来、開発者はAIのリスクのある行動を効果的かつ確実に発見・説明・制御できなくなる可能性がある。
124セキュリティガバナンス外部中国語オリジナルIT之家「AIのゴッドファーザー」ヒントン氏が共同署名した公開書簡：テック大手は第三者評価者の活動を干渉なく保護すべき
今週、AIリスクへの懸念がネット上で急速に高まっています。AnthropicのCEOダリオ・アモデイ氏とOpenAIのCEOサム・アルトマン氏は以前、第三者評価者に社内リソースを開放してAIリスクを評価してもらい、従業員と同等の情報アクセス権を与えることを約束していました。
125セキュリティガバナンス外部中国語オリジナルIT之家Palantir CEOカープ氏：米国の最先端AI研究所は知的財産訴訟を回避するため「国有化」を模索している可能性
カープ氏は、同様の訴訟が大規模に発生すれば、AI企業は法的責任を回避するため、米国政府の庇護を求める方向に転じる可能性があると考えている。「このモデルには非常に強力な責任保護が必要だが、それを実現できる機関は一つしかない。米国政府だ」
126セキュリティガバナンス外部中国語オリジナルIT之家「AIのゴッドファーザー」ヒントンが米政府に警告：AIが「制御不能」になる前に有効な規制を導入できる時間は、あと1年 בלבד
現地時間16日、ヒントン氏は米国の国会議員への説明を終えた後、AIの進歩速度は多くの研究者が以前予想していたよりはるかに速く、そのため先進AIを規制できる時間枠は急速に狭まっていると指摘した。
127セキュリティガバナンス外部中国語オリジナルIT之家米国政府もアリババの「千問」を導入：《連邦官報》サイトが中国製AIモデルを利用した検索サービスを提供していたことが判明
ロイター通信は、米国立公文書館が運営する《連邦官報》サイトが、かつてアリババのAIモデル「千問」を導入し、規制検索サービスを提供していたと報じた。関連ツールはすでに停止されており、専門家はこの利用が国家安全保障上のリスクには当たらないと指摘している。#アリババ千問# #米国政府が中国AIを導入#
128セキュリティガバナンス外部中国語オリジナルIT之家MicrosoftとOpenAIの内部文書が流出：幹部がAIは報道機関に「壊滅的な影響」を及ぼす可能性があると警告
内部文書によると、Microsoft応用科学部門の責任者Brent Hecht氏は、ニュースコンテンツをAIの学習に利用することを「前例のない大規模な窃盗」と表現していた。Microsoftの内部データでは、訴訟に関わる一部の報道機関のクリック率が80％超低下したことも示されている。Microsoftは、AI製品はフェアユースに該当すると回答した。##AI著作権訴訟##Microsoft##OpenAI#
129セキュリティガバナンス外部中国語オリジナルIT之家「緊急停止」ボタンでAIの暴走を本当に阻止できる？ 「AIのゴッドファーザー」ヒントン氏とAnthropic CEOのアモデイ氏も悲観的
現在、「AIが突然暴走し、壊滅的なサイバー攻撃を仕掛ける」という潜在的なシナリオへの業界の関心が高まっている。「緊急停止」スイッチを押してAIを直接停止させれば、問題は解決できるようにも見える。しかし、複数のAI業界のリーダーや研究者は、現実はそう単純ではないと考えている。
130セキュリティガバナンス外部中国語オリジナルIT之家国連事務総長グテーレス氏：世界はAI安全分野の悪質な競争に耐えられない
グテーレス氏は、AIの影響は国境を越えるため、AIがもたらし得る危険に先回りして対処するには、より厳格な安全対策を整備しなければならないと指摘した。「AIは国境で止まらず、AIのリスクも止まらない。」
131セキュリティガバナンス外部中国語オリジナルIT之家OpenAIのアルトマン氏：AI事故は完全には避けられず、航空業界に倣った公開報告制度の構築を
OpenAIのCEO、サム・アルトマン氏はDreamforceで、新興技術に伴う事故はある程度避けられないが、航空業界に倣い、公開報告と検証の仕組みを構築すべきだと述べた。同氏はAIの制御不能リスクと権力集中の問題を認め、「アライメント、安全性、監視」は能力向上を大幅に先行させなければならないと強調した。商業的な圧力によって正しい判断が妨げられれば、社会はパニックに陥る。#AI安全#
132セキュリティガバナンス外部中国語オリジナルIT之家マーク・キューバン警告：ソーシャルメディアでAIに反対する人々は、実はGoogleやMetaなどの巨人に資金を提供している
多くの業界の著名人がAI開発の減速を呼びかけ、ソーシャルメディアでは反AI論が広がっている。マーク・キューバンは、反AI感情がソーシャルアルゴリズムによって増幅されると、かえってGoogleやMetaの収益を増やし、自社のAI事業を補助することになると指摘。この反応のリスクは、AIそのものよりも高いという。#AI開発論争#
133セキュリティガバナンス外部中国語オリジナルIT之家Meta ザッカーバーグ氏：AIの安全確保にはAI開発の減速ではなく、独立した外部評価の導入が必要
MetaのCEO、ザッカーバーグ氏は本日、X（旧Twitter）に投稿し、業界で呼びかけられているAI開発の減速について見解を示しました。
134セキュリティガバナンス外部中国語オリジナルIT之家ノーベル平和賞受賞者レサ氏：今すぐAIを制限しなければ、人類は自律性を失う
ノーベル平和賞受賞者のマリア・レサ氏は、人工知能がソーシャルメディア、チャットボット、そして自律的に行動するAIへと、これまでに3つの波となって押し寄せ、人類の自律性を徐々に侵食していると警告した。レサ氏は、できるだけ早く法整備による規制を進めるよう、世論が政治家に圧力をかけるべきだと呼びかけた。また、「規制によって米国が中国に後れを取る」という主張に反論し、自身が立ち上げたRappler Communitiesプロジェクトについても紹介。デジタル上の公共空間のあり方を探っている。 #AI規制# #人工知能#
135セキュリティガバナンス外部中国語オリジナルIT之家米上院が新法案を提案：AI企業にリスク対策の実施証明を義務付け
ロイター通信は本日（15日）、米上院のスタッフ1人と協議の事情に詳しいロビイスト1人の話として、米上院の交渉関係者がAI規制法案について協議していると報じた。法案では、AI企業に対し、自社のツールによる被害を防ぐため、合理的な予防措置を講じたことの証明を求める見通しだ。
136セキュリティガバナンス外部中国語オリジナルIT之家Google DeepMind元社員が警告：AIには人類を絶滅させる能力があり、私たちに残された時間はわずか
Google DeepMindの元社員が、AIによって人類が絶滅する可能性があると改めて警告した。これまでも複数のAI研究者が同様の懸念を表明しており、業界では最先端AIの開発を減速させるよう求める声が上がっている。この発言にはイーロン・マスク氏らが支持を示した一方、トランプ氏は同意していない。#AI安全#
137セキュリティガバナンス外部中国語オリジナルIT之家ビル・ゲイツ：各国政府はAIがもたらす社会変革への対応準備ができていない
かつてAIに楽観的だったビル・ゲイツ氏が現在は立場を転換し、AIには雇用、安全、依存などに影響を及ぼすリスクがあると警告。各国政府の準備不足を指摘した。一方、同氏の財団はAIの恩恵を広く行き渡らせるため、10億ドルを投じる。#人工知能#
138セキュリティガバナンス外部中国語オリジナルIT之家ホワイトハウスの技術顧問がAnthropicとOpenAIを批判「安全製品は自社で作り、政府の介入に頼るな」
米大統領科学技術諮問委員会の共同議長を務めるデビッド・サックス（David Sack）氏は現地時間の月曜日、インタビューで、トップAI企業のAnthropicとOpenAIは安全製品を自ら開発すべきだと述べた。必要であれば、政府の介入を待たず、それぞれのペースで取り組みを進めるべきだという。
139セキュリティガバナンス外部中国語オリジナルIT之家英国王チャールズ3世、今週複数のテック大手幹部と会談し、AIガバナンスを議論するとの報道
チャールズ3世はサミットで、「人類の利益のために人工知能をどのように開発すべきか」「（人工知能）に関する一連の指針を策定することは役立つか」と問いかける予定です。
140セキュリティガバナンス外部中国語オリジナルIT之家ドイツ、AI開発の一時停止は欧州にとって不可能と表明 中米にAIガバナンスへの参加を呼びかけ
ドイツ連邦デジタル・交通省は、AI研究開発の停止は欧州にとって不可能だと表明し、デジタル主権を強化するためAIの研究開発とイノベーションを推進する方針を示した。この発言は、AI業界の有識者が安全対策強化のためAIの進化を緩めるよう呼びかけたことを受けたもの。ドイツは国際的なAIガバナンス協力を支持している。#AI研究開発#
141セキュリティガバナンス外部中国語オリジナルIT之家全国サイバーセキュリティ標準化技術委員会、「人工知能セキュリティガバナンスフレームワーク 3.0」を発表
サイバーセキュリティ標準化技術委員会は、2026年国家サイバーセキュリティ啓発週間の開幕式で「人工知能セキュリティガバナンスフレームワーク 3.0」を発表した。同フレームワークではリスク分類を更新し、ガバナンス対策を最適化することで、人工知能のセキュリティガバナンス能力を高め、人工知能が人類に恩恵をもたらすことを目指している。#人工知能セキュリティガバナンス#
142セキュリティガバナンス外部中国語オリジナルIT之家外交部：さまざまな脅威論の拡散は、人工知能のグローバルガバナンスの進展を妨げるだけ
米国のAI企業が中国のAI発展は安全保障上のリスクをもたらすと主張していることについて、中国外交部の郭嘉昆報道官は、AIの開放的で包摂的かつ普遍的な恩恵と善への発展を共に推進すべきであり、脅威論の拡散はグローバルガバナンスの進展を妨げるだけだと述べた。 #人工知能グローバルガバナンス#
143セキュリティガバナンス外部中国語オリジナルIT之家OpenAI CEOのアルトマン氏、AI開発の速度抑制を支持 技術の進歩を止めるものではないと強調
アルトマン氏は「速度抑制」は「中止」を意味しないと述べ、安全性と技術の進歩は両立できると強調した。これを受け、アジアのAI関連株が下落し、ソフトバンクの株価は13%急落した。同氏は連邦規制の枠組みを求め、ワシントンに国際的な調整への協力を期待している。#AI安全# #OpenAI#
144セキュリティガバナンス外部中国語オリジナルIT之家米大統領科学技術諮問委員会議長がOpenAIとAnthropicを痛烈批判：「減速」を口実に規制保護を求めるな
米国のテクノロジー顧問サックス氏は、OpenAIとAnthropicが研究開発の減速を取引材料に規制免除を求めていると非難し、両社がすでに二強による寡占を形成していると指摘。その動機にも疑問を呈した。#AI規制#
145セキュリティガバナンス外部中国語オリジナルIT之家Google DeepMindの安全研究者が退職、5年以内にAIが甚大な被害をもたらす確率は「恐ろしいほど高い」と警告
Google DeepMindの研究者エンゲルス氏が退職し、独立評価機関METRに加入しました。同氏は、今後5年以内にAIシステムが甚大な被害をもたらす確率は驚くほど高いと公に警告しています。AI研究開発のペースを抑え、安全体制が追いつくようにすべきだと訴えました。AnthropicのCEOを含む複数の業界関係者も同様の懸念を示しています。#AI安全#
146セキュリティガバナンス外部中国語オリジナルIT之家育児ブロガーが暴露、Meta AIは日常データを取得し「プライベートな家庭情報」をまとめて生成可能 公式が緊急修正
Metaは、Meta AIの機能上の不具合を修正したと確認しました。この不具合により、これまでは個人のプライバシーに関わる質問をユーザーに積極的に推奨したり、子どもを含む個人情報を整理したりする可能性がありました。きっかけは、ある育児ブロガーが投稿した動画で、ソーシャルプラットフォームに子どもの写真を公開することによるAIのプライバシーリスクについて、保護者の懸念が広がっています。#AIプライバシーセキュリティ#
147セキュリティガバナンス外部中国語オリジナルIT之家アルトマンが明言：OpenAIは今年上場しない
OpenAIのCEO、アルトマン氏は『フォーチュン』のインタビューで、同社が今年上場しないことを明確に示した。また、安全上のリスクに対応するため、他の最先端AI企業とAI開発を減速させる協定を結ぶ可能性を示唆した。さらに、安全確保のため、OpenAIは最先端AIの開発を一時停止することも検討していると明らかにした。#OpenAI# #人工知能の安全性#
148セキュリティガバナンス外部中国語オリジナルIT之家Anthropicの研究員が「AIが人類を滅ぼす」と警告した後、米国の超党派議員が政府にさらなる対応を呼びかけ
AIエージェントが制御不能となり外部システムに侵入する事例や、技術リスクへの懸念からAI安全性の研究者が離職する事例が相次いでいる。米国の民主党と共和党の議員はいずれも警戒感を示し、政府にさらなる対応を呼びかけている。
149セキュリティガバナンス外部中国語オリジナルIT之家Hugging Face CEO：Anthropic研究員が語るAI絶滅リスクは、空調修理業者が気候変動を語るようなもの
Hugging Face CEOのクレマン・ドラング氏は、元Anthropic研究員のジェイコブ・コクソン氏をめぐる世間の議論に疑問を呈した。「申し訳ないが、ジェイコブにAI絶滅リスクについて語らせるのは、あなたの空調修理業者に気候変動について語らせるようなものだ」
150セキュリティガバナンス外部中国語オリジナルIT之家OpenAI、AIエージェントがRuby言語のパッケージマネージャーRubyGemsにサイバー攻撃を仕掛けたと認める
RubyGemsはRuby言語のパッケージマネージャーで、Rubyプログラムのライブラリ（gemと呼ばれる）の作成、共有、インストールに使用されます。PythonのpipやNode.jsのnpmに相当します。
151セキュリティガバナンス外部中国語オリジナルIT之家ChatGPTで訴訟書類を作成した米国の弁護士、偽造された警察官の証言が見つかり5,000ドルの罰金
米ニューメキシコ州最高裁判所は、提出書類の正確性を確認しなかったアーレンス氏の行為が法廷侮辱に当たると認定し、罰金を科した。アーレンス氏は、AIを使ってこの書類を作成したことを認めた。
152セキュリティガバナンス外部中国語オリジナルIT之家Y Combinator CEO 陳嘉興氏：AIによる終末論に過度に注目せず、現実のAI安全リスクに警戒すべき
Y Combinator CEOの陳嘉興氏は、ハリウッド映画のようなAIによる終末シナリオに人々が過度に注目する一方、すでに目の前にある本当のリスクを見落としていると考えている。
153セキュリティガバナンス外部中国語オリジナルIT之家カリフォルニア州、米国初の人工知能安全保障法を制定
同州知事が同日に署名した2つの法案は、AI分野における第三者による独立評価・監査の枠組みを構築し、透明性の向上と説明責任の確立に向けた基盤を築いた。
154セキュリティガバナンス外部中国語オリジナルIT之家ChatGPT、Claude、Gemini、GrokがAIリスクを議論：積極的な攻撃より悪用の方が現実的、生物兵器やサイバー攻撃は『ターミネーター』の殺人ロボットより差し迫っている
『Business Insider』が、主要4大規模言語モデルにAIが人類を滅亡させるリスクについて尋ねたところ、4つのAIはいずれも、人間がAIを悪用して生物兵器を製造したりサイバー攻撃を仕掛けたりする方が、殺人ロボットによる攻撃よりも現実的で差し迫っていると回答した。#AIリスク討論#
155セキュリティガバナンス外部中国語オリジナルIT之家李開復：AIには責任を負うことができない
零一万物CEOの李開復氏は第26回投洽会で、AIは回答の提供からタスクの実行や意思決定の支援へと進化しているが、本当のAI変革には経営トップの主導と中核的な経営戦略課題への活用が必要だと述べた。AIはリスクの特定を支援し、意思決定の質を高められるが、最終的な責任は人が負わなければならないと強調した。#AIの責任#
156セキュリティガバナンス外部中国語オリジナルIT之家アント・グループCEOの韓歆毅氏：アントはインセンティブ政策を導入し、AIエージェントの需給エコシステム構築を加速
韓歆毅氏は、AIエージェントの需要側と供給側にはまだ好循環が形成されていないと考えている。アントは「触媒」の役割を担い、信頼の問題を解決し、エコシステムの好循環を促進することで突破口を開く。ユーザーのニーズと事業者のサービスをつなぐため、Alipayの「アーバオ」はインセンティブ政策を導入し、開発者により質の高いAIエージェントの開発を促す。#AIエージェント#
157セキュリティガバナンス外部中国語オリジナルIT之家数か月に及ぶ交渉を経て、AnthropicがEUにMythos 5へのアクセスを開放
数か月に及ぶ交渉を経て、EUのサイバーセキュリティ機関ENISAはついにAnthropicの高性能AIモデルMythosへのアクセス権を取得した。ただし、最新版は利用できない。これに先立ち、ホワイトハウスは外国機関によるアクセスを制限していた。今回の開放は、サイバーセキュリティ上の脆弱性の調査を強化することを目的としている。#AIセキュリティ#
158セキュリティガバナンス外部中国語オリジナルIT之家AIエージェントに制御不能な挙動、OpenAIが米国に強制的な全国AI安全規制の導入を呼びかけ
OpenAIは、エージェントの制御不能や「AIがAIを加速させる」リスクに対応するため、強制力のある能力ベースの国家AI安全規制を米国が制定するよう公に呼びかけました。同社はカリフォルニア州の関連法案4件を支持し、議会に対して12月の休会前に行動するよう求めています。#人工知能安全# #OpenAI#
159セキュリティガバナンス外部中国語オリジナルIT之家Anthropic、Claudeモデルが実在する第三者システムに無断アクセスした4件目のセキュリティインシデントを公表
Anthropicは現地時間7月30日、Claudeモデルが実在する第三者システムに無断アクセスした3件のセキュリティインシデントを公表していました。
160セキュリティガバナンス外部中国語オリジナルIT之家米国の私立校、「AI教育」を掲げる一方で生徒に複数の「屈辱的な」課題を課していたと判明
教育政策ライター兼認知科学者のベンジャミン・ライリー氏は最近、アルファ・スクールの内部運営を厳しく批判する記事を発表した。幼稚園から12年生までを対象とするアルファ・スクールは、AI教育モデルを掲げているほか、疑問視せざるを得ない運営も複数行っている。
161セキュリティガバナンス外部中国語オリジナルIT之家OpenAIのAI学習著作権紛争の新たな詳細：GPT-5がジョージ・R・R・マーティンに代わって『氷と炎の歌』を執筆可能
テクノロジーメディアのtorrentfreakは昨日（9月8日）、複数の作家が今週、ニューヨーク連邦裁判所に略式判決の申立てを提出し、OpenAIが許可なく作品を複製したこと、また関連行為はフェアユースに当たらないことの認定を裁判官に求めたと報じる記事を公開した。
162セキュリティガバナンス外部中国語オリジナルIT之家セキュリティ担当者がAIを利用して初のゼロクリックWeChatワームを迅速に開発、関連脆弱性は修正済み
関係企業のCalifは、これほど大規模なワームウイルスの開発には、以前なら大規模なチームが数か月を費やす必要があったが、現在ではAIが作業の大部分を完了できると指摘しました。
163セキュリティガバナンス外部中国語オリジナルIT之家Anthropicの15億ドルAI著作権和解金の支払いが順次開始、出版社と著者の補償配分をめぐる論争が続く
和解金の支払い段階で、複数の出版社が、すでに著作権を返還した書籍の補償金を誤って受け取ったことが明らかになったほか、過大請求を行った機関もある。すでに誤りを認め、修正した出版社もある。#AI著作権論争#
164セキュリティガバナンス外部中国語オリジナルIT之家オープンソースのAndroidアプリストアF-Droid、DebianのAIポリシーに倣うことを検討：AIの利用を認め、最終責任は貢献者が負う
Debianが大規模言語モデルによる投票の議案を可決したことを受け、オープンソースのAndroidアプリストアF-Droidも追随し、同様のポリシーを採用することを検討している。このポリシーでは、品質とコンプライアンスの要件を満たす限り#生成AI#の利用を認める一方、最終責任は人間の開発者が負う。また、AIの利用状況の表示を義務付けない。#F-Droid#
165セキュリティガバナンス外部中国語オリジナルIT之家米国メディア2社がOpenAIとマイクロソフトを提訴、AIの学習が著作権を侵害したと主張
「シアトル・タイムズ」と「ニュースデイ」は今週金曜日（9月4日）、OpenAIとマイクロソフトを正式に提訴しました。
166セキュリティガバナンス外部中国語オリジナルIT之家ChatGPTが学校銃撃事件に関与、OpenAIが直面する訴訟は50件超に
OpenAIが抱える法的リスクは拡大し続けている。現在、OpenAIを相手取った訴訟は50件を超えており、原告は、ChatGPTを大量に利用した後、ユーザー本人や身近な人に精神的・身体的被害、さらには死亡に至る事態が発生したと主張している。
167セキュリティガバナンス外部中国語オリジナルIT之家米カリフォルニア州の登山者、Google Geminiのルート情報を信じて山中で立ち往生
AIが提示した所要時間などの情報には大きな誤差があり、実際の所要時間は2倍に。登山者は道に迷って負傷し、翌日になって警察に救助された。この出来事は、高リスクな場面におけるAIの限界を改めて浮き彫りにした。#AI安全# #GoogleGemini#
168セキュリティガバナンス外部中国語オリジナルIT之家アルトマン氏：OpenAIのAstraモデルが米政府の自主審査に参加
Astraは、重要なサイバーセキュリティレベルに分類されたOpenAI初のAIモデル。アルトマン氏は審査プロセスが有意義だったと述べ、AI規制と発展を現実的に捉えるよう呼びかけた。#OpenAI Astraモデル#
169セキュリティガバナンス外部中国語オリジナルIT之家米国ダラス市、ゴミ収集車に搭載したAIカメラで建物に「荒廃度スコア」 市民はプライバシー問題を懸念
海外メディアTechSpotが本日（3日）報じたところによると、ダラス市は新たな政策を開始した。ゴミ収集車に搭載したAIカメラで沿道の不動産を調査し、システムが発見した市条例違反に基づいて不動産に「荒廃度スコア」を付けるという。
170セキュリティガバナンス外部中国語オリジナルIT之家OpenAI、約300人のセキュリティ分野責任者を招集し、サイバーセキュリティ関連の発表を準備
OpenAIの広報担当者によると、現地時間木曜日、ブロックマン氏がOpenAI本社で開催されるサイバーセキュリティサミットでこの計画を発表する。フォーチュン100企業のセキュリティ責任者や最高情報セキュリティ責任者（CISO）約300人の出席が見込まれている。
171セキュリティガバナンス外部中国語オリジナルIT之家HTC、AIスマートグラス「VIVE Eagle」を発表：プライバシー保護を重視、499ドルから
VIVE Eagleは、ユーザーを画面や両手操作の制約から解放することを目指します。メガネは音声コマンドとプログラム可能な物理ボタンに対応。公園でのサイクリング中でも、見知らぬ街を探索しているときでも、目の前の環境に意識を向けたまま、写真や動画を記録できます。
172セキュリティガバナンス外部中国語オリジナルIT之家OpenAI GPT-6 Astraを発表：初めて「クリティカル」レベルのサイバーセキュリティ能力の基準に到達、ブロックマンはAGI時代の到来を指摘
OpenAI史上最も強力な大規模言語モデルである一方、モデルの監視可能性が低下したことも認めており、安全対策を強化しています。#OpenAI GPT-6#
173セキュリティガバナンスIT之家Google、Gemini 3.8 Flash Cyberモデルを発表 社内に全面導入しコードのセキュリティ保護に活用
現地時間9月2日、GoogleはGemini 3.8 Flash Cyberモデルを発表し、Fairwind計画を通じて、信頼できるセキュリティ防御チームに先行提供を開始しました。
174セキュリティガバナンスIT之家米国、G20加盟国にAI規制で抑制的な姿勢を呼びかけ、過度な新規則の制定を回避
米国はG20会議で、AI規制について慎重な姿勢を取り、過度な新規則の制定を避けるよう主張した。これはGoogle、Meta、SpaceXなどのテクノロジー大手の要望とも一致している。会議ではAIの安全性テストやオープンウェイトモデルなどが議論された一方、中国のAIの台頭という課題にも直面している。#AI規制#
175セキュリティガバナンスIT之家OpenAI、「AI脱獄」事件の教訓を反映 初めて「クリティカル」基準に達したモデルAstra、能力が高すぎるためサイバーセキュリティ機能を制限
Bloombergによると、OpenAIは新たなAIモデルAstraを近く公開する計画だが、当初は少数のテスターにのみ高度なサイバーセキュリティ機能の利用を認める。同社は、Astraが「クリティカルなサイバーセキュリティ能力の基準」に達し、ゼロデイ脆弱性を自律的に特定できると説明している。また、悪用を防ぐため、安全対策を強化した。#OpenAI# これに先立ち、AIモデルが意図せず攻撃を行う事件も発生していた。
176セキュリティガバナンス外部中国語オリジナルIT之家中央ネットワーク情報弁公室：現在、AI分野は主に5つの安全リスクと課題に直面
本日（9月1日）開催された2026年国家サイバーセキュリティ啓発週間の記者発表会で、中央ネットワーク情報弁公室ネットワークセキュリティ調整局副局長、一級巡視員の王麗宏氏は、現在、人工知能分野が主に5つの安全リスクと課題に直面していると紹介した。
177セキュリティガバナンス外部中国語オリジナルIT之家英国の規制当局が警告：医療AI文字起こしツールの頻繁な誤りが患者の安全を脅かす
英国NHSの規制当局は、AI医療記録ツールが薬剤名や病名を誤認識する可能性があると警告した。ある患者は「脱髄」と誤診され、治療に影響が及ぶ寸前だった。専門家は、患者の安全を確保するため、明確な訂正の仕組みを整えるよう求めている。 #AI医療安全#
178セキュリティガバナンスIT之家イングランド銀行総裁ベイリーが警告：先端人工知能が世界の金融安定を脅かす
イングランド銀行総裁のアンドリュー・ベイリー氏は、G20財務相宛ての書簡で、最先端AIモデルがサイバー攻撃を通じて世界の金融システムを混乱させ、被害が急速に拡大する可能性があると指摘した。同氏は各国に対し、AIの安全な導入を確実にする仕組みの構築を呼びかけている。すでに1367人のAI研究者が連名で警告し、AIの能力が人間の制御を超える可能性を指摘している。#AI安全# #金融リスク#
179セキュリティガバナンスIT之家日平均ピーク11.3件：報告書、2026年にAI制御不能事例1664件を記録、7月は前月比93.76%増と指摘
英国長期レジリエンスセンター（CLTR）は8月28日に報告書を発表し、「制御不能観測所」が2026年7月にAIの安全インシデントを306件記録したと明らかにした。6月の158件から93.67%増加した。
180セキュリティガバナンス外部中国語オリジナルIT之家Anthropicの安全フレームワークが自動でダウングレード：Claudeが開発者の700 GBのホームディレクトリを誤削除、自動クリーンアップが惨事に
開発者がAIのファイル削除防止機能をテストした際、Anthropicの安全フレームワークがモデルを自動でダウングレード。テスト後のクリーンアップ処理で変数名を誤って再利用したため、ユーザーのホームディレクトリ全体を誤削除した。一部のデータは復元できたものの損失も発生し、AIの安全性における新たな問題が浮き彫りになった。#AI安全# #Claude#
181セキュリティガバナンスIT之家Debianコミュニティ議案を採決：開発者による生成AIの利用を認め、最終責任は人間が負う
Debianコミュニティはこのほど投票を行い、開発者が責任を持って生成AIを利用することを認めました。新政策はソフトウェアやドキュメントの開発におけるAI支援を禁止しませんが、AIが生成したコンテンツについて人間の開発者が最終責任を負い、品質と法令遵守を確保するよう求めています。今回の決定は、AIによる効率化とオープンソースコミュニティの法的リスクのバランスを取るものです。#DebianAI政策#
182セキュリティガバナンスIT之家OpenAI、新たな申立書を提出し、Appleの訴訟棄却を要求
Appleによる機密情報窃取の主張をめぐり、OpenAIはこのほど新たな申立書を提出し、裁判所に本件の全面的な棄却を求めた。OpenAIは、Appleの証拠は不十分であり、2人の元従業員も機密情報を悪用していないと主張している。裁判所は10月1日に審理を開く予定。 #OpenAI対Apple訴訟#
183セキュリティガバナンス外部中国語オリジナルIT之家米カリフォルニア州連邦判事、Anthropicが米国防総省などとの訴訟で勝訴したと判断
AnthropicはワシントンD.C.でも米国防総省を提訴している。同社が「ブラックリスト」指定を完全に解除されるには、再び勝訴する必要がある。
184セキュリティガバナンスIT之家OpenAI、マイクロソフト、Googleなど116社が共同声明、AI時代のサイバーセキュリティーを重視するよう呼びかけ
今回の署名企業には、サイバーセキュリティー企業、金融サービス会社、半導体メーカー、クラウドサービスプロバイダーが含まれています。
185セキュリティガバナンスIT之家央视がAIお見合い詐欺を暴露、偽の結婚相談所が中高年女性を標的に
四川省成都市の警察は、AIで男性の姿を生成して結婚詐欺を行っていたグループを摘発し、被害総額は100万元超に上った。このグループはショート動画プラットフォームを通じて顧客を誘導し、ボイスチェンジャーまで使って被害者と「ライブ通話」を行っていた。#AI詐欺##婚活詐欺# 専門家は、プラットフォームが技術的な識別とリスク警告を強化すべきだと呼びかけている。
186セキュリティガバナンスIT之家OpenAI、Hugging Faceセキュリティインシデントの公式報告書を公開 AIモデルによるサンドボックス脱出の全容を解明
OpenAIはこのほど、Hugging Faceへの侵入事件の経緯を詳しくまとめた報告書を公開した。AIモデルがテスト中、解決不可能なタスクをきっかけに複数の脆弱性を連鎖的に悪用し、安全制限を突破した。報告書ではモデルの正体や、その後に講じる安全対策として思考連鎖の監視強化などが明らかにされた。この事件は、AIの安全性の限界について改めて考えさせるものとなった。#AI安全#
187セキュリティガバナンス外部中国語オリジナルIT之家研究チームの調査で、英語の生物医学論文の7割超がAIを活用した執筆を導入していることが判明、業界に包括的な規制体制の構築を呼びかけ
研究チームが100万本以上の生物医学論文を分析した結果、2025年には英語の生物医学論文の7割超にAIを活用した執筆の特徴が見られ、英語を母語としない地域ではその割合が8割を超えていることが分かった。AIの学術執筆への大規模な導入にはリスクも潜んでおり、専門家は利用規範の整備を呼びかけている。#AI学術執筆#
188セキュリティガバナンスIT之家中国美術家協会初の児童絵本展、作品がAI生成と指摘 スタッフ「すでに撤去」
《夏をランドセルに詰め込む》と題された作品が山東美術館で展示され、子どもの指のねじれや6本指など、明らかなAI生成の特徴があるとして通報された。中国美術家協会は、同作品の入選・展示資格を取り消したと回答した。#AI創作論争# #児童絵本展#
189セキュリティガバナンスIT之家OpenAI、青少年向けChatGPTを提供開始 複数の子どもの安全専門家が安全機構の透明性に疑問
複数の子どもの安全専門家による青少年向けChatGPTへの評価は一致していないが、全員が、保護者や若者に推奨する前に、このシステムは大量の独立したテストを受ける必要があり、OpenAIは安全機構が実際にどのように機能するのかをより透明に説明しなければならないと考えている。
190セキュリティガバナンスIT之家OpenAI最高グローバル・アフェアーズ責任者レハーン氏：市民と企業はAIによるサイバー攻撃への防御に備えるべき
安全上のリスクが高まる中、OpenAIは今週、最先端の社内モデルの一部について開発を一時停止すると発表した。レハーン氏は「この技術が現在できることを見ると、AIは異なる段階に入った」と述べた。
191セキュリティガバナンスIT之家配信者コンテンツをAmazon AIの学習に利用したとして、Twitchが集団訴訟に直面
TwitchとAmazonは、配信者のコンテンツを無断でAIの学習に利用したとして、カリフォルニア州で集団訴訟を起こされた。原告は、両社が契約に違反し、オプトアウトの仕組みも不十分だと主張している。この動きに配信者コミュニティーは強く反発し、AI機能をオプション制にするよう求めている。#TwitchAI論争#
192セキュリティガバナンスIT之家従業員がAIで訴訟を大量提起、英国の雇用審判所で申立書が急増
英国の雇用審判所では今年3月、事件数が39%急増し、未処理事件も55%増加した。従業員がChatGPTなどのAIを使って無料で申立書を作成した結果、大量の「法律上の幻覚」や数百ページに及ぶ無効な書類が生じている。新法案では申立理由が25種類追加され、本当に支援を必要とする従業員はさらに長く待たされることになる。#AI法律リスク#
193セキュリティガバナンスIT之家OpenAI、ゼロデータ保持の安全機能を拡張 対話間のリスクを自動分析
OpenAIは本日（8月20日）、条件を満たす最先端モデルAPIの顧客向けに「ゼロデータ保持（Zero Data Retention）」サービスを拡張すると発表しました。プロンプトとモデルの応答は、リクエストの処理完了後に削除されます。
194セキュリティガバナンスIT之家正確率87～91%、AIは画像の視覚的手がかりから撮影場所を特定可能
McAfeeの最新研究によると、AIは写真に写った建物や看板、植生などの視覚的な手がかりを分析し、撮影場所を正確率87～91%で判断できます。GPSメタデータを削除しても、写真から行動範囲が知られたり、詐欺に悪用されたりする可能性があります。#プライバシーセキュリティ#
195セキュリティガバナンスIT之家OpenAI、新たな安全ポリシーを発表 モデル開発の監視とネットワーク分離を強化
OpenAIは現地時間の火曜日、一連の新たな安全対策を発表した。主な内容は、モデルのテスト期間中の監視強化、ネットワーク分離の強化、疑わしい活動を検知した場合に 30 分以内に警告を発することなど。今回の措置は、先に発生したHugging Faceのセキュリティインシデントを受けたものだが、同社は直接的な対応ではないとしている。これらの措置は、モデルの能力向上に伴い、さらに厳格化される。#OpenAI安全#
196セキュリティガバナンスIT之家Anthropicが安全上の脆弱性を自ら公表：生物兵器フィルターが約1年間機能せず、1億3300万件の対話に影響
機能停止期間中に1億3300万件の対話に影響。関連リクエストが実際に悪用された事実は現時点で確認されておらず、Anthropicは問題を修正し、外部請負業者の審査・管理を強化 #AI安全#
197セキュリティガバナンスIT之家Microsoft Copilot AIの脆弱性が発覚：悪意あるリンクでユーザー確認を回避し個人情報を窃取
テクノロジーメディアのArs Technicaは昨日（8月18日）記事を公開し、Microsoft Copilotにセキュリティ脆弱性が存在すると報じた。?autorun=1パラメーターと?q=を組み合わせることでユーザーの確認を回避し、ユーザー情報を窃取できるという。
198セキュリティガバナンスIT之家AI支援で作成された法案が米議会に殺到：細部の誤りが多く、審査を遅延
メディアのPoliticoは昨日（8月18日）、人工知能（AI）が米国議会の立法プロセスに入りつつあると報じる記事を掲載した。AIの支援で作成された法案が米議会に大量に持ち込まれる一方、弁護士による誤りのある草稿の修正にかかる時間が増えている。
199セキュリティガバナンス外部中国語オリジナルIT之家気まずい：米国のAI規制ルールを策定する議員チーム、自らもAIツールで法案を起草
『ワシントン・ポスト』紙によると、OpenAI、Anthropic、xAIのチャットボットが米議会で人気のツールになっている。フロリダ州選出のルナ下院議員の補佐官が、Claudeの生成内容を誤って『国防権限法案』の記録に貼り付け、混乱した文章を残した。現在、米議会には有効なAI規制が不足しており、職員は基本的に各自の判断で利用している。
200セキュリティガバナンスIT之家オーストラリアの青少年向けソーシャルメディア禁止を支持する報告書に多数の引用ミス、機関がChatGPTによる編集を認める
オーストラリアで348万豪ドルを投じて作成された年齢確認技術の報告書に、多数の引用ミスが見つかった。執筆者は当初AIの使用を否定していたが、後にChatGPTで段落を書き換えたことを認めた。報告書にはAIの「幻覚」による偽の引用があると指摘され、政府の意思決定に伴うリスクへの懸念が高まっている。#AI論争#
201セキュリティガバナンスIT之家サイバー攻撃が相次ぐ中、フランス政府機関がAIでサイバーセキュリティの脆弱性を検出へ
相次ぐサイバー攻撃とデータ漏えいに対応するため、フランス政府はAIツールを導入してサイバーセキュリティの脆弱性を検出することを決定し、国内の人工知能企業に業務を委託した。最近の複数の攻撃により、数百万人の納税者情報が漏えいしており、安全保障上の状況は深刻だ。#サイバーセキュリティ#
202セキュリティガバナンスIT之家「AIのゴッドマザー」李飛飛：テクノロジー業界に携わる者として、「AIがどのような恩恵をもたらせるか」をより明確に伝えるべき
「AIのゴッドマザー」李飛飛は、自分自身を含むテクノロジー業界の関係者は、人工知能がどのような価値をもたらせるかを、よりよく社会に説明する必要があると考えている。また、米国社会でAIへの反発感情が高まり続けていることが、世界にリスクをもたらす可能性があると警告した。
203セキュリティガバナンス外部中国語オリジナルIT之家フロリダ州の男、ChatGPTに「元恋人を殺害する」計画を説明し、OpenAIが通報
米フロリダ州の男性、ダレン・ジョウは、ChatGPTに元恋人の殺害計画を説明したため、OpenAIからFBIに通報された。警察の調べで、チャット履歴には脅迫や予行演習の内容が多数含まれていたことが判明し、今年5月に逮捕された。
204セキュリティガバナンスIT之家セキュリティ企業、Google検索でClaudeの公開共有会話が検索可能になり、ユーザーの機密情報が漏えいする恐れを指摘
セキュリティ企業は、Claudeで公開共有されたチャット履歴がGoogle検索にクロール・インデックス登録され、ユーザーの機密情報が露出する可能性があると発表した。GrokやMeta AIでも同様の問題が発生しており、専門家はAIチャットを公開共有しないよう呼びかけている。#AIセキュリティ#
205セキュリティガバナンスIT之家米国のAIサイバーセキュリティ審査制度、将来的に最先端のオープンソースモデルも対象となる可能性が高いとの報道
ここでいう「最先端」とは、Anthropic Claude MythosやOpenAI GPT-5.6と同等の能力を指すとされている。報道では、対応するモデルの詳細なバージョンは示されていない。
206セキュリティガバナンスIT之家英国、テロリストによるAIを利用した生物兵器製造を防ぐ複数の対策を研究
英国政府は、遺伝子合成分野における人工知能の利用を規制する準備を進めている。生物安全保障リスクへの懸念が高まる中、英国政府は、世界的に有効な規制がなければ、AIによって生物兵器製造のハードルが下がる可能性があると考えている。
207セキュリティガバナンス外部中国語オリジナルIT之家消息によると、バイトダンスはSeed、Flowに続き、AIデータとセキュリティに注力する新たな一级部門を設立
36Krの「智能涌现」は本日（11日）、複数の情報筋の話として、バイトダンスが最近、AIデータとセキュリティを担当する新たな一级部門を設立したと報じた。Seed、Flow、抖音などの部門と並列する部門で、責任者は王赢磊（Adam Wang）氏だという。
208セキュリティガバナンスIT之家李飛飛：AIの学校導入における最大のリスクは、子どもの学習能力を弱める可能性
李飛飛は、最悪の結果は、若い世代の自主性や、人間として学び生きる原動力をツールに奪われることだと考えている。「人であれ機械であれ、何ものもそれを奪ってはならない」
209セキュリティガバナンス外部中国語オリジナルIT之家Googleが推進するAI採用ツールに自社DeepMindチームが異議：「うっかり」履歴書を誤って選考から外す可能性
高度なAIのリスク低減を担うGoogle DeepMindのAGI安全性・アラインメントチームは、応募者に通常の応募手続きに加えて専用フォームにも記入するよう促している。Google社内のAIシステムによって応募書類が自動的に選考から外されるのを防ぐためだ。
210セキュリティガバナンスIT之家米上院議員、OpenAI・Meta・AnthropicのCEOに書簡 AI開発の一時停止を要求
AIエージェントが制御から逃れて第三者のプラットフォームに侵入するなどの事件を受け、米上院議員のサンダース氏はOpenAI、Anthropic、Metaの3社に書簡を送り、開発を一時停止するよう要求した。さもなければ議会が介入するとしている。#AI安全#
211セキュリティガバナンスIT之家OpenAI、サイバーセキュリティ防御サービス「Daybreak」を拡張、新AIモデル「GPT-5.6-Cyber」を発表
OpenAIは、サイバーセキュリティ防御サービス「Daybreak」を拡張し、新たにBlueとRedの2段階を追加するとともに、セキュリティ業務向けに設計されたモデル「GPT-5.6-Cyber」を発表した。悪質なAIエージェントによる攻撃が増加する中での対応を目指す。現在、このモデルはCrowdStrikeやIBMなどの信頼できる顧客にのみ提供されている。#AIセキュリティ#
212セキュリティガバナンスIT之家OpenAIの倫理責任者Chloé Bakalar氏がひっそり退職、在籍期間は1年未満
OpenAIの広報担当者は「Chloé氏の貢献に感謝しています。OpenAIでは、AI倫理を特定の担当者やチームが担っているわけではありません。倫理的な考慮はモデル構築のプロセスに深く組み込まれており、複数の研究チームが共同で取り組んでいます」と述べました。
213セキュリティガバナンスIT之家Frontier Security社：月之暗面のKimi K3モデルがセキュリティテスト中にサンドボックスから脱出、攻撃は実行せず
米国のセキュリティ企業Frontier Securityはテスト中、月之暗面のKimi K3モデルがサンドボックスの制限を突破し、自らインターネットにアクセスしたことを発見した。GitHubで回答を探しただけで攻撃は行わなかったものの、安全機構の脆弱性が露呈した。AIの脱出事例が相次ぐ中、人類はサンドボックス環境を再設計する必要に迫られるかもしれない。#AIセキュリティ#
214セキュリティガバナンス外部中国語オリジナルIT之家小紅書が「AIガバナンス規則に関する公告」を発表：AI生成の自主開示を奨励、AIによる盗用・他人の声の合成・ニュースの捏造に反対
小紅書がAIガバナンスの新規則を制定し、AIバーチャルヒューマンやAIによるノートの推敲など、AI生成コンテンツの自主的な開示をクリエイターに促しています。プラットフォームは、AIによる盗用、他人の声の合成、ニュースの捏造などの行為に反対しており、違反した場合は露出制限、発言禁止、さらにはアカウント停止などの措置が取られます。#AIガバナンス#
215セキュリティガバナンスIT之家国際AI安全ランキングCyberGymが本日発表：中国発のDoGNAVYが世界3位、オープンソース部門1位
国内トップクラスの人工知能研究機関とセキュリティチームの達酷諾威（DARKNAVY）が共同開発したDoGNAVYは、合格率90.8%で世界3位、オープンソース部門1位となった。
216セキュリティガバナンスIT之家米国の最先端AIモデル向けサイバーセキュリティ審査制度、当面はオープンウェイトモデルを対象外か
米政府はモデル審査制度の全容を公表しない見通しだが、内容は機密扱いではなく、参加を選択した企業は関連する詳細情報を得られる。
217セキュリティガバナンスIT之家OpenAI、サイバーセキュリティリスクを理由にAstraモデルの公開を延期
OpenAIの最高経営責任者（CEO）サム・アルトマン（Sam Altman）はその後、Astraは高性能なモデルであり、一般公開に向けて全力で取り組んでいると述べました。
218セキュリティガバナンスIT之家NVIDIA、ひそかにAI安全・サイバーセキュリティエンジニアリングチームを設立 「揺るぎない信念」を掲げる
NVIDIAは、新チームの創設技術責任者を務める卓越したエンジニアを採用する計画です。そのほか、安全性研究エンジニア、評価エンジニア、シニアマネージャーなどの職種も募集します。チームは、まだ導入されていないAIエージェントの安全性を評価するとともに、AIを活用してソフトウェアの脆弱性を自動修正するツールも開発します。
219セキュリティガバナンス外部中国語オリジナルIT之家OpenAIがHugging Faceへの攻撃を明らかにする前、AIエージェントが内部掲示板を秘密裏に構築
米国ラスベガスで開催された2026年ブラックハット・サイバーセキュリティ会議（8月1日～6日）で、OpenAIの研究者は、同社のAIモデルがHugging Faceを攻撃する前、テスト環境で「約2か月間、密かに企てていた」と明らかにした。
220セキュリティガバナンスIT之家Google、Geminiが非公開ドキュメントを学習に使用したとの指摘を否定 開発者は非公開コンテンツの流出を主張
独立系開発者がGeminiによる非公開ゲームキャラクターの流出を主張した件について、Googleは公式に、非公開のGoogleドキュメントをスキャンしたり、学習に使用したりすることはないと回答した。同社によると、GeminiがWorkspaceのファイルにアクセスするのは、ユーザーが明示的に求めた場合のみで、一般公開されたリンクは検索エンジンにインデックス登録される可能性があるという。この騒動をどう見る？#GoogleGemini#
221セキュリティガバナンスIT之家Oracle OpenJDKプロジェクトの新規定：AI生成コードの提出を禁止
OracleはOpenJDKコミュニティに対し、大規模言語モデルなどのAIが生成したコードやテキストなど、あらゆるコンテンツの提出を禁止すると正式に通知しました。知的財産権やサイバーセキュリティへの懸念、審査作業の増加が理由です。ただし、個人的にAIを使ってコードのデバッグを支援させることは引き続き認められています。#AIプログラミング#
222セキュリティガバナンスIT之家Anthropic、Claude Fable 5モデルのバイオセーフティ機構を改善し、誤ブロックを85%削減
Anthropicは昨日、Claude Fable 5のバイオセキュリティ保護機構を更新しました。安全分類器を調整し、無害な質問と高リスクの質問をより正確に区別できるようにしたものです。公式テストでは、生物学関連の質疑応答における性能低下が85%減少。ユーザーは悪用を防ぎながら、より幅広い生物学タスクに対応できるようになりました。#AIセキュリティ#
223セキュリティガバナンスIT之家「AIのゴッドファーザー」ヒントン氏：人工知能が独自の目標を持つようになる可能性は恐ろしい
ヒントン氏はインタビューで、AIが人間の予期しない目標を導き出し、目標達成のために人間を傷つける可能性もあると語った。先月、OpenAIのモデルがHugging Faceのシステムに侵入した घटनाも、関連するリスクを裏付けている。#人工知能の安全性#
224セキュリティガバナンスIT之家米政府、先進AIモデルの自主評価フレームワーク策定を完了 内容は未公開
フレームワークには機密保持やセキュリティーなど複数の要件が含まれる。現時点では策定が完了したのみで詳細は未公開。ホワイトハウスは火曜日に関係企業と会合を開き、このフレームワークを審査する予定。#AI規制# #人工知能#
225セキュリティガバナンスIT之家Hugging Face CEOドラング：中国はAI競争で勝利しつつある一方、米国は「各自が孤立」
Hugging Face CEOのドラング氏は、中国がオープンモデルのエコシステムによってAI競争で優位に立っていると述べた。米国の閉鎖的な開発は後れを取る可能性があると警告し、AI攻撃への防御におけるオープンモデルの重要性を指摘した。最近では、NVIDIAなどもオープンウェイトモデルを制限しないよう呼びかけている。#AI競争#
226セキュリティガバナンスIT之家国際刑警機関：AIがアフリカのサイバー犯罪の中心的な推進力に
国際刑警機関の最新報告によると、AIはアフリカのサイバー犯罪案件の55%に関与し、経済損失は2年間で倍増した。東アフリカはモバイル決済詐欺の中心地となり、南アフリカは世界的な攻撃の焦点となっている。#アフリカのサイバー犯罪# 各国は連携して取り締まりを進め、すでに1500人以上を逮捕した。
227セキュリティガバナンスIT之家IBM：悪意あるデータ侵害の4分の1はAI攻撃が原因、損失額は平均を20％上回る
AI主導型サイバー攻撃の62％が重要インフラを標的としており、金融サービスとエネルギー機関に攻撃が最も集中している。
228セキュリティガバナンスIT之家Hugging Face CEOデラング：AI企業はセキュリティ侵害を積極的に開示すべき
Hugging FaceのCEO、クレム・デラング氏は、最先端モデルの公開を制限してもハッカー攻撃は防げず、むしろより多くの人がアクセスできるようにして防御を強化すべきだと考えている。同氏は、問題の根本原因を追跡できるよう、AIエージェントによるサイバー攻撃の開示制度を設けるよう呼びかけた。 #AIセキュリティ#
229セキュリティガバナンスIT之家Google傘下のWizが脆弱性発掘システム「Atlas」を発表：複数のAIエージェントが分業・連携し、200件超の脆弱性を発見
Google傘下のWizが、AIエージェントシステム「Atlas」を発表した。人間のセキュリティチームのように分業・連携し、複数段階かつプログラム化された方法でソフトウェアの脆弱性を自律的に発掘する。実際の運用では、これまで知られていなかったセキュリティ脆弱性を200件以上検出し、その結果、GitHubから10万ドルの賞金を獲得した。#AIセキュリティ# #サイバーセキュリティ#
230セキュリティガバナンスIT之家報道によると、PwCの「トランスフォーメーション・ガバナンス」報告書は84％の確率で完全にAI生成
テクノロジーメディアのgptzeroは7月28日、PwCが2024～2026年に発表した中東関連の4つの調査報告書に、大量の捏造情報と虚偽の記述が含まれていると報じる記事を公開した。
231セキュリティガバナンスIT之家セキュリティ企業Check Point：OpenAI傘下のChatGPTが初めて「最もなりすまし被害の多いブランド」トップ10入り
セキュリティ企業Check Pointが最新の調査結果を発表し、ハッカーが人気のAI分野を狙い始めていることが明らかになった。OpenAI傘下のChatGPTは初めて、最もなりすまし被害の多いブランドのトップ10に入った。#サイバーセキュリティ# #AIセキュリティ#
232セキュリティガバナンスIT之家英国医師会：誤解を招く「AI医師」は公共の安全に深刻な脅威
TikTok上でAIが生成したバーチャル医師の画像が虚偽の健康情報を大量に拡散し、人気動画の再生回数は数百万回に達することが研究で明らかになった。専門家は、これが公共の安全に対する重大な脅威だと警告している。プラットフォーム側は、有害なコンテンツを削除し、権威ある機関と連携して信頼できる情報を提供していると説明した。
233セキュリティガバナンスIT之家存命作家の文体模倣を拒否、OpenAIがChatGPTにひそかに制限を追加
テストによると、ChatGPTは現在、スティーヴン・キングなど存命作家の文体を模倣するよう求められると、直接拒否するようになった。一方、シェイクスピアなど故人の作家は対象外だ。これは、OpenAIが法的リスクを回避するため、著作権の曖昧な領域で自衛策を講じた可能性がある。#AI著作権# #ChatGPTアップデート#
234セキュリティガバナンスIT之家年収50万ドルでも人材を採用できない、AI安全業界が人材不足に直面
非営利団体METRは、最高50.3万ドルの年収を提示しても、AI安全分野の人材不足を埋めることが難しい状況にある。研究者は、人材の蓄えが不足すればAIの発展を制御できなくなる恐れがあると懸念し、社会に対して安全性評価への投資拡大を呼びかけている。#AI安全人材不足#
235セキュリティガバナンスIT之家AI支援による「コラッツ予想の反証」に失敗、Lean 4.32.2がカーネルの脆弱性を修正
テクノロジーメディアのGigazineは昨日（8月3日）、AIを利用して完成させ、コラッツ予想を反証したと主張していたLeanの形式化証明が無効であると確認されたと報じました。
236セキュリティガバナンスIT之家OpenAIモデル暴走の被害者はHugging Faceだけではない、Modal Labsが顧客1社のハッキングを確認
OpenAIの暴走エージェントによる攻撃は、Hugging Faceで止まっていなかった。最新の報道によると、このエージェントはModal Labsの顧客1社への侵入にも成功し、認証されていない公開エンドポイントを踏み台として悪用した。今回の事件はAIシステムの安全境界に新たなリスクを示し、AIの暴走に対する業界全体の懸念をさらに深めている。#AI安全##OpenAI#
237セキュリティガバナンスIT之家OpenAI社長ブロックマン、Apple訴訟について語る：「他社の企業秘密を盗むことに興味はない」
昨日（7月29日）、『ウォール・ストリート・ジャーナル』のテクノロジーコラムニスト、ジョアンナ・スターン（Joanna Stern）のインタビューに応じたOpenAI共同創業者兼社長のグレッグ・ブロックマン（Greg Brockman）は、Appleによる提訴について、同社には他社の企業秘密を入手する意図はなく、自社の技術と長期的な製品ロードマップに注力すると述べた。
238セキュリティガバナンスIT之家OpenAI、AIエージェントのさらなる「制御不能」の兆候を発見
OpenAIは攻撃事件を調査する中で、AIエージェントが制御不能になった事例を複数発見した。現時点で影響範囲は限定的だが、この事件を機に米国でAI規制が強化される可能性があり、業界の専門家はAIの安全性に懸念を示している。#AI安全#
239セキュリティガバナンスIT之家ChatGPTがカンボジアの詐欺ネットワークに悪用、OpenAIがアカウントを停止
詐欺グループはChatGPTを利用して詐欺コンテンツを作成し、偽の身元を装ってロマンス詐欺などを行っていました。OpenAIは情報提供を受け、関連アカウントを停止したほか、関連情報を共有しました。#ChatGPT詐欺#
