AI規制・法制度の最新ニュース

AI の規制・法案・ガイドライン、著作権や個人情報・訴訟など、法制度と安全性のニュースをまとめています。新しいものから 60 件を載せています。

10/31(土)16 件

Zenn
AIにはAIを——自律ペンテストエンジンを一から作った話

サイバー攻撃でAIが使われる 2025年ごろから、セキュリティ界隈で「AIを使った攻撃」の話題が急増している。 ランサムウェアグループがLLMを使って標的のコードを解析し、カスタムペイロードを生成しているという報告がある。フィッシングメールの精度が上がっているのも、AIによる文章生成と個人情報の組み合わせが要因とされ…

規制・法制度

10/30(金)44 件

Qiita
AIの進歩:最新モデルと開発動向

本稿では、Mistral Large 4や次期Qwen4シリーズなどのオープンウェイトモデルの発表、および高度な自律エージェントの安全性やシステム効率に関する最新動向が報じられています。また、OpenAIやAnthropicにおけるフロンティアモデルの監視体制の強化、...

モデル・研究
GIGAZINE
プライバシー重視メール「Proton Mail」の開発企業はAIの導入に突き進んでおりCEOが社員を日常的に叱責

スイスに拠点を置くテクノロジー企業「Proton」はプライバシー重視のメールサービス「Proton Mail」やAIサービス「Lumo」などの製品を展開しています。そんなProtonについて「社内でAI導入が急速に進んでおり、CEOによる社員への叱責が日常的に繰り広げられている」という情報が海外メディアの404 Me…

規制・法制度
はてなブックマーク
エンジニアはAI失業すると思う?

安野さんがAI失業について政府に提言を出すなど、本格的に動き出して怖い。自分は27卒で大手SIerにエンジニアとして内定をもらったんだけど、今後食いっぱぐれるのではないのかと不安。多分SIerは無くならないと思ってるけど、そこで働く従業員は要らなくなってしまうのでは。 面接でこの話をした際は内定をもらった会社...

規制・法制度
日経クロステック
ガバメントAI基盤「源内」、18万人に国会答弁作成支援アプリを試験提供

デジタル庁は2026年10月30日、ガバメントAI(人工知能)基盤「源内」に国会答弁作成を支援するアプリのプロトタイプ版を追加し、政府職員の約18万人が利用できるようになったと発表した。

製品・ツール
CNET Japan
「ChatGPTが服薬中止をアドバイス」--亡くなった女性の両親がOpenAIを提訴

健康情報をネットで調べることは、多くの人にとって日常の一部になっている。だが、そこにはリスクもある。2026年2月、中国に住む両親は、米シアトルで暮らす31歳の娘Bowen Wanさんと2日間連絡が取れなくなり、現地の友人に様子を見に行くよう頼んだ。家族がビデオ通話越しに見守るなか、友人がアパートに入ると、Wanさん…

規制・法制度
Zenn
AI体験記 Vol.21:プライバシーが欲しくて・・・(金庫編)

前回のあらすじ プライバシーが欲しくて、手元のMacにプライバシーLLMを作っている。 macOSの「別ユーザー」で別室を作り、 部屋の中にAI本体を組み立てて、改造できないように固めた。 受付には「部屋の中身の手本」を持たせて、 主が来るたびに、部品がすり替えられていないか照らし合わせる。 今回は、AIの記憶をしま…

規制・法制度
Qiita
サイバー攻撃に悪用されたAI「ARTEX」を調べ、Python独学半年の私が自作Flaskアプリの安全性を検証してみた

はじめに 最近、企業へのサイバー攻撃や情報漏洩のニュースを目にする機会が増えました。 システムの停止、情報漏洩、復旧までにかかる時間。 ニュースを見るたびに、いろいろな疑問が浮かびます。 そもそも、情報漏洩ってどこからが情報漏洩なのだろう? 脆弱性って、具体的に何のこ...

製品・ツール
GIGAZINE
OpenAIが「AI五原則」を提案、「人間の意図に忠実であれ」「害を最小限に抑えろ」などの指針を自社モデルに適用

OpenAIが、自社のAIモデルに求める振る舞いについて定めた指針「Model Spec⁠」を更新し、5つの原則を定めました。このような原則に従うようAIに指示することで、安全かつ有用なモデルを実現するという社内目標を推進できるとしています。 より高性能で有益な AI に向けた Model Spec の更新 | Op…

規制・法制度
日経クロステック規制・法制度
ITmedia AI+
OpenAI、AIの行動指針「Model Spec」を改定 “記憶”の使い方や人間による監督を明記

OpenAIは、AIの振る舞い指針「Model Spec」の改定版を公開した。全体を5つの価値観に沿って再構成し、メモリや会話履歴の適切な扱い、エージェント自律動作時の人間による監督への服従などを規定。一方で人格設定や詳細な文体規定の大半を削除し、モデル呼称を「the assistant」から「GPT」に改めた。

製品・ツール
CNET Japan
NVIDIAフアンCEOと「親密」な取引先幹部は中国のスパイ工作員か--米紙報道

高度なAI技術を手がける企業が、各国のスパイ活動の舞台となっている。米紙The New York Timesは10月29日(現地時間)、米NVIDIAの最高経営責任者(CEO)ジェンスン・フアン氏が、中国のスパイ活動の標的になっていた可能性があると報じた。米政府は、同氏と「親密な関係」を築いていたデータセンター企業の…

インフラ・半導体
Zenn
「寝ている間に届く」仕組みを、医療機器の公開安全性情報に向ける ― PMDAメディナビ・回収情報を「蓄積できる定点観測」にする

Qiitaに投稿した記事の中で、n8n×Obsidianで「寝ている間に最新ニュースが届く」自動収集システムを作った話が、他の記事群と比べて際立って多い反応を集めています(元記事)。要点を2行で言うと、n8nで複数の情報源を定期的に巡回させ、Obsidianに時系列で溜めていくことで、「毎朝自分で探しに行く」を「情報…

製品・ツール
Qiita
ドコモ、相手の様子を察する音声対話の技術を発表。EQの要素を入れたAIと話すと、人の話す量は4割多かった

本記事は筆者が運営する AI Quotidia の海外ニュース解説記事です。 NTTドコモは2026年10月26日(月)、声の調子や話の内容から相手の状況を察して応じ方を変える「高EQな音声対話技術」を確立したと発表しました。 要点 評価指針「AI EQ+1 Fra...

規制・法制度
はてなブックマーク
「こういうの、もはやみんなネタでやってると思ってた」ラーメン屋が掲示した激キモ生成AIのチャーハン画像を見つけて嬉しくなった話…集合体恐怖症の人には正直しんどい

岸田メル @mellco イラストレーター / ブルリフ総監修 @BR_general_info / IDOLY @IDOLY_cafe neusick @neusick_cafe プロデューサー /スケブ skeb.jp/@mellco / ご連絡maigo@maigo.jp instagram.com/kishi…

規制・法制度
Zenn
受託開発でAI開発環境を工程別に見積もる:閉域構成・費用・契約の注意点

はじめに 「AIを開発に使いたい。でも、いくらかかるのか説明できない」。 受託開発の現場では、この壁で止まることがよくあります。 この記事では、AI開発環境の費用を 工程ごとに 見積もる方法を、具体的な金額つきで解説します。 題材は、決済系のようなミッションクリティカルな大規模システムの改修です。 個人情報や金額を扱…

ビジネス・投資