選挙でのAI悪用防ぐ IT20社の合意
✍️記事要約
生成ＡＩ（人工知能）を悪用した「ディープフェイク」と呼ばれる偽動画などが選挙に影響を及ぼすことを防ぐため、世界の主要ＩＴ２０社が１６日、協業することで合意した。今年は１１月の米大統領選など大型の選挙が予定され、業界横断で偽情報の拡散防止を図る。
１６日にドイツ南部ミュンヘンで開幕した「ミュンヘン安全保障会議」に合わせて合意を発表した。「チャットＧＰＴ」を開発したオープンＡＩやマイクロソフト、グーグルなどのほか、メタ（旧フェイスブック）やＸ（旧ツイッター）などＳＮＳ運営大手が名を連ねた。ソフトバンクグループ傘下の英アームなど半導体関連企業も入っている。
２０社は今後、情報を共有しながら動画の出所を明示する「電子透かし」の開発や、ＳＮＳ上で偽情報を検出する技術の向上などを進める。
今年は米大統領選のほか、欧州議会選（６月）なども予定されている。欧米メディアからは、合意は各社の自主的な措置で、偽情報の禁止など強制力がないなどとして効果を疑問視する声も出ているが、グーグルのケント・ウォーカー社長は１６日、「自由で公正な選挙の実現は、情報の信頼性にかかっている」と述べ、対応を急ぐ方針を強調した。
ネット上の記事や広告に、発信者の情報を電子的に付与して信頼性を担保する技術「オリジネーター・プロファイル（ＯＰ）」の開発を進めるＯＰ技術研究組合は１７日、この合意を支持すると発表した。村井純理事長は「民主主義を守るため、技術的な解決策に引き続き取り組む」との声明を公表した。
ＯＰ技術研究組合には国内外のメディアなど３７法人が参加し、２０２５年の運用開始を目指している。
■英訳
To prevent the influence of fake videos known as "deepfakes," created using AI (Artificial Intelligence), major IT companies worldwide agreed to collaborate on the 16th. This collaboration aims to prevent the spread of misinformation across industries, especially with significant elections scheduled, such as the U.S. presidential election in November. The announcement was made in conjunction with the opening of the Munich Security Conference in southern Germany on the 16th. Companies involved include OpenAI, developer of "ChatGPT," Microsoft, Google, Meta (formerly Facebook), and X (formerly Twitter), among others, along with semiconductor-related companies like Arm, a subsidiary of SoftBank Group.
The 20 companies will collaborate on developing "digital watermarks" to disclose the sources of videos while sharing information. They will also work on improving technology to detect misinformation on social media platforms. Besides the U.S. presidential election, this year also includes the European Parliament election scheduled for June. While some Western media question the effectiveness of the agreement, citing its voluntary nature and lack of enforcement on misinformation prohibition, Kent Walker, President of Google, emphasized on the 16th that "the realization of free and fair elections depends on the reliability of information" and emphasized the need for urgent action.
The Originator Profile (OP) Technology Research Association, which is developing technology to electronically attach sender information to online articles and ads to ensure reliability, announced its support for this agreement on the 17th. Chairman Jun Murai stated, "To protect democracy, we will continue to work on technical solutions," in a released statement.
The OP Technology Research Association consists of 37 corporations, including domestic and international media, aiming to start operations by 2025.
◇ ◇ ◇
☘️ヤフコメ❗️ピックアップ☘️
17日欧州では、超有名な19ものサービスを対象に、違法コンテンツ対策をIT企業に義務付けた、EUの「デジタルサービス法」の全面適用が始まりました。
14日にはニューヨーク市長が、SNSは若者のメンタルヘルスの危機を煽って依存するように仕向けていると非難、健康問題への対応に年間１億ドル負担があるとし、大手4社を相手に市が訴訟を起こしました。訴訟は全米の家族、自治体、州で増え続けているとのこと。
民間企業が主導権を握る、または訴訟によって国の政治を動かしてゆくのは、実にアメリカ的です。上からの規制は少ないほうが良いという、自由を尊ぶお国柄。一方、欧州は平等を尊ぶ風土で、27の国が団結して上からの規制をかけています。
両者が刺激しあってネットのルールが出来あがっていく様子が面白いです。
✅ 「表現の自由」を認める根拠には、いくつかの要素が考えられます。そのうちの1つが、言論活動によって、主権者である国民が政治的意思決定に関与する、という民主主義政治にとって重要な社会的価値を保障することです。政治的表現は、より価値の高い表現と位置づけられます。
そのため、政治活動という文脈での表現の自由の規制は、情報の自由な伝達を保障する意味でも、最低限にとどめるべきで、暴力的な政府転覆を主張・唱道する表現の規制や、選挙活動中の演説の妨害の禁止など以外は、基本的に規制の対象とすべきではないとされています。
このような価値判断は現在でも重要です。しかし、最近のディープフェイクの高度化は、従来の考え方だけで、本当に民主政の過程の正常な運営が図られ、適正な政治が実現されるのか、非常に重い課題を突きつけています。世界的な選挙イヤーでもある2024年は、エポックメーキングな年になるかもしれません。
✅ どんなに大手が頑張ったところで、透かしを入れないディープフェイクを作るのは犯罪者側ができなくなるわけではないので、撮影者本人が電子署名した画像や動画しか信用しない世の中になるしかない。その意味ではカメラでの撮影でもカメラメーカーによってEXIFのように改変できる形ではなく改変できない電子署名が入ることは望ましいと思う。
