ディープフェイク広瀬。 ディープフェイク

ディープフェイクとは?偽動画の例や仕組み・作り方・危険性などをまとめて紹介

ディープフェイク広瀬

先日Twitterで見かけた、DeepFake(ディープフェイク)がマジですごかった。。 そもそもDeepFakeとは何かというところですが、「 深層学習(deep learning)」と「 偽物(fake)」の造語で、人工知能(AI)によって人物を合成したコンテンツの事をいいます。 最新技術が普及するのに最も大きなエネルギーを生み出すのは常にアダルト産業ですが、機械学習に基づくDeepFakeもそうですね。 現在、DeepFakeを専門としたアダルト動画を配信しているウェブサイトがいくつかあります。 主に、タレント、アーティスト、女優などの顔と既存のアダルト動画を合成しているので、配信されている動画は顔を合成された本人の体ではありません。 追記 先日、フェイクポルノを正式に違法とする地域が登場したと報道されました。 元交際相手などとの日常における画像・映像とポルノムービーを合成させる「フェイクポルノ」は、リベンジポルノとして使われる可能性が問題視されています。 このことから、アメリカ・バージニア州が世界で初めてフェイクポルノを『違法』と定めたようです。 によれば、2014年以来バージニア州は「他人を強制、嫌がらせ、または脅迫する目的」で裸の画像またはビデオを公開することを禁止しています。 最新の改正によって、「ニセの作成されたビデオまたは静止画像」を含むことを明確にされました。 これは、「ディープフェイク」だけでなく、Photoshopによる画像または偽造映像も指す可能性があります。 規則に違反するのはクラス1の軽犯罪となり、最高 12ヶ月の懲役と最高2,500ドル(約27万円)の罰金が科せられます。 また、アメリカの他41州も2019年までにフェイクポルノを違法化する方針だそう。 女性の写真を1クリックで裸にしてしまう「」というサービスは、問題を指摘されため停止しています。

次の

広瀬すず、新垣結衣が「裸」にされる「ディープフェイク」とは?

ディープフェイク広瀬

ByteDanceの新しい顔交換機能では、ユーザーは自身をスキャンして動画を選ぶことで、クリップ内の誰かの顔に自分の顔を重ねることができる ディープフェイク機能がDouyinとTikTokでリリースされた場合、偽情報を広めるためではなく、コントロールされた環境で、ユーザーが顔交換技術そのものや動画を純粋に楽しむために使われる可能性はある。 テクノロジーに対する注意を喚起し、オンラインにあるものをそのまま信じるべきではないということを多くの人が理解するようになるかもしれない。 だが、ByteDanceが機密性の高い生体認証データで何をするのか、懸念が高まることも考えられる。 iPhoneで設定するFace IDが何に使われるのかという懸念と同じだ。 他のテック企業が最近、ディープフェイクの下位バージョンを商業化しようとしている。 (モーフィン)のアプリでは、GIF画像上の俳優の顔にコンピューターが生成した顔データを上から重ねることができる。 Snapchat(スナップチャット)は、フレームやカメラロールの中の2人の顔を入れ替えるを長年にわたって提供している。 のようなスタンドアロンアプリもある。 TechCrunchは2019年12月、Snapchatの新しいについて、Snapchatが提供する動画クリップに本物の自撮り写真を挿入できるが、挿入しても混乱を招くほど現実的には見えないと報告した。 最も問題なのは、中国のディープフェイクアプリであるだ。 これは、人工知能を使用して、ある人の顔を他人の動きにあわせてその体に溶け込ませ、表情を同期させる。 スキャンされたユーザーの顔が悪用される可能性があるため、プライバシーとセキュリティの懸念がある。 Zaoは9月に急速に広まった。 中国のWeChatは以前、Zaoを「セキュリティリスク」のためブロックしていた。 なお、ここではセキュリティリスクの例として「Zao」を取り上げたが、ByteDanceとZaoが提携しているわけではない。 だがByteDanceは、15億回のダウンロードを超えるTikTokとDouyinという世界で最も人気のある2つのアプリ上で本物そっくりのディープフェイクを提供できそうだ。 中国のiOS App StoreのZao TikTokとDouyinの中に密かに存在する TechCrunchは、イスラエルの市場調査アプリのスタートアップであるからこのニュースに関する手がかりを入手した。 同社は、TikTokおよびDouyinのAndroidアプリの最新バージョンの中にディープフェイク機能のコードを発見した。 Watchful. aiは、Douyinのコードをアクティブにして、機能のスクリーンショットを生成することができたが、現在は公開していない。 まず、ユーザーはDouyinで顔をスキャンする。 これはIDチェックとしても機能する。 つまり、自分自身の顔だけを送信していることを確認し、同意を得ていない他人の既存または新規の顔写真を使用したディープフェイクの作成を防ぐためだ。 Douyinは、焦点を合わせ照明を当てる際に、瞬き、うなずき、口を開閉するよう求める。 こうすることで、ユーザーが生きている人間であることを確認する。 その上で、編集可能な顔のスキャンを生成すると、さまざまな感情表現に応用したり、異なる情景に埋め込めるようになる。 次に、ByteDanceが使用権を持つと主張する動画から1つ選択すると、クリップの人物の顔が自分のものに置き換えられ、ディープフェイク動画となり、共有・ダウンロードが可能になる。 動画に入れる透かしによって、コンテンツが本物ではないと判断できると同社は主張する。 Watchfulがこの機能によって作成した動画への機密アクセスを筆者は受け取った。 顔の交換は非常にスムーズにできる。 動き、表情、色合いのすべてに非常に説得力がある。 Watchfulは、ディープフェイク機能のプライバシーと使用に関するTikTokとDouyinの利用規約の未公開更新版も発見した。 TikTokの米国版Androidアプリ内にある英文が、機能と使用条件の一部を説明している: この機能には、顔のパターンが使用されます。 詳細については、Drama Faceの利用規約とプライバシーポリシーをお読みください。 続行する前に、利用規約とプライバシーポリシーを読んで同意してください。 この機能をすべての人にとって安全なものにするため、ID検証が必要です。 ID検証により、ユーザー自身の顔でこの機能を使用していることを確認します。 このため、アップロードした写真は使用できません。 顔のパターンは、投稿する前に自分だけに表示される顔変更動画を生成するためにのみ使用されます。 個人情報保護のため、後でこの機能を使用する場合は、本人確認が必要です。 この機能は、未成年者向けのインターネット個人情報保護規則に準拠しています。 未成年のユーザーはこの機能にアクセスできません。 Douyinが提供するこの機能に関連するすべての動画素材は、著作権を取得しています。 主要箇所の翻訳は以下のとおり。 この機能が提供する「顔を変える」効果は、写真に基づいて写真を重ね合わせることによって生成される架空の画像です。 元の作品が変更され、この機能を使用して生成された動画が実際の動画ではないことを示すために、この機能を使用して生成された動画に透かしを入れます。 透かしを消さないでください。 前述の検出プロセス中に収集された情報及びあなたの写真を使用して顔を変える動画のために生成する情報は、検出及び顔の変更の際の照合にのみ使用されます。 他の目的には使用されません。 また、照合された情報はすぐに削除され、顔の特徴は保存されません。 この機能を使用する場合、当社が提供する素材のみを使用できます。 素材を自分でアップロードすることはできません。 当社が提供する素材は、著作権者により承認されています。 「未成年のインターネット個人情報保護規則」および関連する法律と規制の条項に従い、子供や若者の個人情報を保護するため、この機能は未成年者の使用を制限しています。 TechCrunchはTikTokとDouyinに対し、ディープフェイク機能のリリース時期、生体認証情報のプライバシー保護方法、年齢制限について問い合わせた。 TikTokは質問への回答を控えたが、広報担当者は「チームで確認した結果、TikTokの機能にはないこと、また今後導入するつもりはないことを確認した。 あなたが探しているのはDouyinに予定されているものだと思う。 あなたのメールにはDouyinのスクリーンショットとDouyinに言及するプライバシーポリシーが含まれている。 TikTokではDouyinを使用していない」と述べた。 TikTokはその後TechCrunchに「アクティブではないコードフラグメントを削除して混乱を排除しているところだ」と述べた。 これは、TikTokで顔交換コードが見つかったことを暗に確認したものだといえる。 Douyinの広報担当者はTechCrunchに「Douyinは事業を展開する管轄区域、つまり中国の法律および規制に従っている」と答えた。 TechCrunchはTikTokのアプリに顔交換の利用規約と機能が含まれていることを確認したものの、Douyinは否定した。 これは疑わしいし、ディープフェイク機能のコードと英語の利用規約が、アプリがすでにアクティブ化され利用規約が見つかったDouyinだけでなく、TikTokの中で見つかった理由を説明していない。 は情報筋の話として、同社が中国の要請で政治的・性的コンテンツを検閲していると報道したが、TikTokの米国法人は中国政府からの検閲要求に従っていることを否定した。 ディープフェイクの一般化 ディープフェイクの顔交換機能は、中国や米国では公式にリリースされない可能性はあり得る。 だが、リリースされていなくてもすでに機能は完全で、偽情報や同意のないポルノで批判されているにもかかわらず論争の的となっている技術を採用するByteDanceの意欲を示している。 少なくとも同社は、未成年者によるこの機能の使用を制限し、自分自身の顔を入れ替えることのみを許可し、ユーザーが自分のソース動画をアップロードできないようにはしている。 従って危険な偽情報の動画の作成、例えば下院議長のNancy Pelosi(ナンシー・ペロシ)氏が酔っ払ったように見せる動画や、トランプ大統領のような話し方をする人のクリップを作成することは避けられる。 Watchful. aiの共同創業者でCEOのItay Kahana(イテイ・カハナ)氏はTechCrunchに「ソーシャルネットワーキングアプリが、18歳以上のユーザーのみに新しい高度な機能を制限することは滅多にない」と語った。 「ディープフェイクアプリは表面的には楽しく見えるかもしれないが、トロイの木馬になったり、知的財産権と個人データ、特にTikTokの圧倒的ヘビーユーザーである未成年者の個人データを危険にさらしたりすることは許されない」と述べた。 されている。 ByteDanceによるMusical. lyの買収とTikTokとの合併は、だ。 ディープフェイクの恐怖は、さらに厳しい精査を招く可能性がある。 だが適切な安全対策を講じれば、顔を変える技術は作り手中心のコンテンツ新時代を招くかもしれない。 これは、2020年に成長する可能性のあるパーソナライズされたメディアの新しいトレンドの一部にすぎない。 ソーシャルメディアは、自撮り写真からBitmoji、Animoji、Cameoへと進化し、現在ではディープフェイクが消費者の手に入りつつある。 我々の注意をそらす無数のアプリ、動画、通知がある中で、スターになれるというのは注意を引く最良の方法かもしれない。 [] (翻訳・).

次の

【無料動画】広瀬すず&橋本環奈のディープフェイクが本物過ぎると話題

ディープフェイク広瀬

参考動画:BuzzFeedVideo|有名なディープフェイク動画の例。 この偽動画を作成したのはコメディアンのJordan Peele氏(画面右に登場)とのこと。 フェイク動画の将来の危険性について警告しています。 ディープフェイクとは? によれば、 「ディープフェイク(deep fake)」とは、人工知能の重要技術である「ディープラーニング(deep learning)」と英語で捏造・にせものを意味する「フェイク(fake)」から作られた造語、とのことです。 人工知能によって、本人が実際には話していないことを話させたり、人物の顔を巧妙に入れ替えたりして、本物と見分けがつかないような偽動画などを作ることができる技術のようです。 一人の男が、盗んだデータで何億人ものあらゆる秘密、生活、将来を完全に支配している様子を。 )などと発言しているフェイク動画です。 しゃべるモナリザ?たった1枚の画像からディープフェイク動画を作成 参考動画|tech 4tress:ディープフェイク動画を作成できるフリーソフトツールとして有名な「FakeApp」のダウンロード・インストール方法や使い方などが解説されています。 — VICE VICE 他にも、スマホなどで簡単にフェイク動画や画像を作れるアプリがどんどん出てくるのも、もはや時間の問題といえそうです。 有名人だけでなく、どんな人でも被害者になりうるため、非常に怖い脅威となりつつあります。 このように偽動画などを簡単に作れるようになることで、有名な政治家のフェイク動画が選挙結果に影響を及ぼしたり、捏造動画が新たないじめの手段に使われたりと、様々な可能性が懸念されています。 ディープフェイクを見破る方法や対策など 参考動画|東京新聞:フェイク動画を見破る人工知能AIについての報道。 ディープフェイクのアルゴリズムによる巧妙な偽動画は、すでに人間の目では本物と見分けることは難しくなりつつあるため、AIによってディープフェイクを見破る技術の研究が進んでいるようです。 ただ、偽造技術の方も日々進歩しているため、結局いたちごっこになってしまうのでは?と個人的には危惧しています。 他にも、たとえば透かしを入れる方法などが検討されているようですね。 法律の整備などもこれから急速に進んでいくでしょう。 どんな情報も鵜呑みにせず、各自が総合的に判断していく能力が今まで以上に求められることになりそうですね。 ダーウィン・ジャーナルにご訪問いただきありがとうございます!管理人のチャールズです。 当サイトでは生物学や心理学・テクノロジー分野のクリエイティブ・コモンズの論文を中心に、管理人が個人的に興味を持った世界の最新の研究成果や面白い科学ニュース雑学などを、できるだけわかりやすくまとめて紹介しています。 各分野の専門家ではない管理人が個人で運営しておりますため、恐縮ですが、誤りなどを含んでいる可能性がありますことを予めご了承下さい(参考:)。 記事中には原則としてソースの学術論文をリンク付きで明記していますので、学術・医療分野などにおける正確性・厳密性を求められる方はそちらを直接ご覧下さいますようお願い致します。 もし誤りについてのご指摘やご意見・ご感想などありましたら、コメント欄に記入あるいはからお気軽にご連絡頂ければ幸いです。

次の