中部経済新聞令和８年６月掲載

愛知県弁護士会　弁護士　加藤　光宏

　生成人工知能（AI）の進展は目覚ましい。文章、画像、動画、音声など誰もが容易に生成できる時代となった。精度も著しく向上し、真偽の区別が困難な生成物も日常的に見かける。

　生成AIは利便性をもたらす一方で、新たな問題も生んでいる。その一つがディープフェイク、つまりAIにより実在の人物が発言・行動したかのような虚の映像、音声などを生成する技術である。

　ディープフェイクの全てが問題となるわけではないが、現実の被害につながる事例もある。実在の人物の顔を用いた性的画像の作成や、著名人になりすました虚偽発言による投資詐欺の助長、政治的な虚情報の拡散などである。これらは名誉毀損、詐欺、業務妨害などの既存の犯罪に該当し得るものであり、実際に摘発事例も出ている。ディープフェイクは、もはや抽象的なリスクではなく、現実の社会問題である。

　もっとも、現行法による対応には限界もある。ディープフェイクによる問題は、理論上は刑法、民法、著作権法などにより違法となる可能性はあるものの、AIによって生成された「偽画像」であるという点が要件充足の障害になることもある。また、発信者の特定が困難であることや、行為全体の立証の難しさも障害となり得る。さらに、情報の拡散が極めて速いため、被害発生後の救済では十分とは言えない場面も多い。顔や声といった個人に結び付く情報の利用という側面から、ディープフェイクを個人情報の問題として捉えようとする議論もあるが、いまだ法的枠組みが明確になっている訳ではない。これらの課題は、ディープフェイクが現行法の想定を超える問題であることを示している。

　では、どのような対応が求められるのか。議論は、生成AIそのものを一律に規制するのではなく、その利用態様や生成されたコンテンツに着目する方向にある。米国では有害なディープフェイクへの対応が進み、EUではAI法によりディープフェイクに特化した規制ではないがリスクに応じた規制枠組みが整備されている。こうした規制は、他方で表現の自由との調整を要し、過度な規制は正当な創作活動や言論を萎縮させかねない。

　日本でも、ディープフェイクに対する直接的な規制法は存在しないものの、その必要性は認識されており、既存法の適用やガイドラインの整備など対応が模索されている。近時は、顔や氏名に加え、「声」にも人格的・経済的価値を認めるべきではないかとの議論も始まっている。

　問題は、技術の進展が法制度の想定を上回る速度で進んでいる点にある。今後不可欠となる生成AIの利活用を前提としつつ、被害や悪影響をもたらす利用をいかに法的に規制するか。制度整備とともに、利用者側のリテラシー向上も求められている。