1: 2019/08/18(日) 09:40:24.82 ID:Xm4w+ZFM0●.net BE:121394521-2BP(3112)
AIで本物そっくりの偽動画が簡単に作成できる懸念
人工知能（AI）への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】
AIが世界経済に与える波及効果は2030年までに13兆ドル（1405兆円）に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産（GDP）を毎年1.2％押し上げる効果が見込まれるという。
だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者（CEO）、マーク・ザッカーバーグ氏の偽動画である。
同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。
◇経営者の声で「振込先が変更になった」
サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。
報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。
続きはこちらから
https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all
人工知能（AI）への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】
AIが世界経済に与える波及効果は2030年までに13兆ドル（1405兆円）に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産（GDP）を毎年1.2％押し上げる効果が見込まれるという。
だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者（CEO）、マーク・ザッカーバーグ氏の偽動画である。
同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。
◇経営者の声で「振込先が変更になった」
サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。
報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。
続きはこちらから
https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all
5: 2019/08/18(日) 09:42:15.75 ID:okKi1dtp0.net
モザイク破壊は結構な制度だからな
10: 2019/08/18(日) 09:43:24.20 ID:MK6a7o6P0.net
動画が証拠にならない時代が来た
攻殻機動隊の時代か
攻殻機動隊の時代か
11: 2019/08/18(日) 09:43:26.80 ID:rVD33IUk0.net
>>1
でも大げさに言うわりにクオリティは低いからな。
でも大げさに言うわりにクオリティは低いからな。
17: 2019/08/18(日) 09:46:01.52 ID:0DAVpFO70.net
ちゃんと調べたらすぐ分かるんだけどね。
ちゃんと調べないから。
ちゃんと調べないから。
18: 2019/08/18(日) 09:46:18.73 ID:WkUC60qP0.net
フェイクの素材になったAV女優に悪いと思わんのか！
25: 2019/08/18(日) 09:50:10.17 ID:hs4wo3OH0.net
>>18
顔は見るに堪えないが体は最高な女の雇用が生まれる
顔は見るに堪えないが体は最高な女の雇用が生まれる
22: 2019/08/18(日) 09:48:20.86 ID:cSX7ABJM0.net
AIで作成できるということはAIで見破ることもできるということだ(｀・ω・´)ｷﾘｯ
50: 2019/08/18(日) 10:00:22.85 ID:dr18ojU10.net
>>22
この手の本物そっくりの画像・映像を生成するプログラムは騙すAIとそれを見抜くAIを永遠と対戦させて精度を上げている
この手の本物そっくりの画像・映像を生成するプログラムは騙すAIとそれを見抜くAIを永遠と対戦させて精度を上げている
54: 2019/08/18(日) 10:05:23.82 ID:cSX7ABJM0.net
>>50
ゴキブリ対殺虫剤やんｗｗｗｗｗｗ
ゴキブリ対殺虫剤やんｗｗｗｗｗｗ
26: 2019/08/18(日) 09:51:48.86 ID:aN+QfQTh0.net
アイコラの動画版が蔓延る世の中になるのか
はよ
はよ
30: 2019/08/18(日) 09:52:53.18 ID:MCZbJwZ/0.net
>>26
もうあるんだよなぁ
もうあるんだよなぁ
28: 2019/08/18(日) 09:52:27.69 ID:0mqYXeEc0.net
何でもAIって付けとけば凄そうに見える風潮
32: 2019/08/18(日) 09:53:18.31 ID:vtRTQOBA0.net
最近本当多くなったな
33: 2019/08/18(日) 09:53:47.73 ID:KYnrMpyq0.net
電話も映像も信用できないな
そのうち肉眼で直接見た物や
耳で聞いた情報すら信用できない時代が来ると思う
そのうち肉眼で直接見た物や
耳で聞いた情報すら信用できない時代が来ると思う
76: 2019/08/18(日) 10:22:16.68 ID:lITFOpbR0.net
>>33
マトリックス
マトリックス
37: 2019/08/18(日) 09:54:42.80 ID:T/oHB6wy0.net
誰でも好きな子の写真一枚あればAI-VRでなんでもできるようになる世の中はよ
39: 2019/08/18(日) 09:54:56.54 ID:eHOIEnRz0.net
足下にドライブレコーダーつけておいてもメーカーが都合良く改ざんしたって
疑いが出ちゃうのか
疑いが出ちゃうのか
46: 2019/08/18(日) 09:58:51.36 ID:FT6sUr5U0.net
>>39
なにそれ、いやらしい
なにそれ、いやらしい
47: 2019/08/18(日) 09:59:09.42 ID:rXll8dF10.net
例のAV作品の女優の顔を芸能人の顔にするＡＩまじやべーな
驚愕しながら抜いた
驚愕しながら抜いた
49: 2019/08/18(日) 10:00:15.16 ID:V9cMrCww0.net
オレオレ詐欺にも引っかかりそうな奴らだな
51: 2019/08/18(日) 10:01:21.19 ID:EEs1I5+N0.net
証拠物件と認められなくなるヤバさ
52: 2019/08/18(日) 10:01:28.09 ID:IxY3dUJK0.net
参考動画を見ないことには何とも言えんな…
55: 2019/08/18(日) 10:05:43.97 ID:DLNbBkTd0.net
これってエロでよく言われるけど、不祥事起こした芸能人のせいで
お蔵入りになった映画とか、顔と声だけ差し替えて発売するとか
あと女優の若返りとかも、若いときにいろいろな角度から顔を
取っておけばできるだろう
お蔵入りになった映画とか、顔と声だけ差し替えて発売するとか
あと女優の若返りとかも、若いときにいろいろな角度から顔を
取っておけばできるだろう
64: 2019/08/18(日) 10:13:25.84 ID:DLNbBkTd0.net
死んだ映画俳優とか復活しそうw
声はヴォーカロイド化しとけばいいし
声はヴォーカロイド化しとけばいいし
69: 2019/08/18(日) 10:15:09.26 ID:NK4TlTam0.net
>>64
俳優の利権絡むから無理
俳優の利権絡むから無理
65: 2019/08/18(日) 10:14:02.58 ID:pf5TIzuz0.net
一番困るのがCG屋さん？
67: 2019/08/18(日) 10:14:33.30 ID:1aoTl1an0.net
deepfakeのAVすげえよな、びびった
73: 2019/08/18(日) 10:18:29.75 ID:7EjeDic60.net
お願いです！ムスコが自由研究のネタに困ってるんです！動画見せてください
80: 2019/08/18(日) 10:24:35.59 ID:nfoUJy3A0.net
やはりエロ方面の話題か
82: 2019/08/18(日) 10:25:10.40 ID:2boKO1Ok0.net
逆にロクデナシ達が全ての証拠をAI技術によるフェイクと言い逃れしだすだろうな
85: 2019/08/18(日) 10:28:52.77 ID:YHF8nyHF0.net
>>82
実際録音音声とか証拠として採用するのはかなり危険な時代になっただろ
でっちあげとか簡単そうだし
実際録音音声とか証拠として採用するのはかなり危険な時代になっただろ
でっちあげとか簡単そうだし
87: 2019/08/18(日) 10:30:02.28 ID:q0QXfQ/A0.net
>>1
バトルランナーで見た
バトルランナーで見た
90: 2019/08/18(日) 10:35:20.86 ID:tIfplRxt0.net
>>87
まさかあれが現実になるとは
まさかあれが現実になるとは
94: 2019/08/18(日) 10:41:45.15 ID:xhG6Easm0.net
AIのフェイクをAIが見破る
105: 2019/08/18(日) 10:47:33.73 ID:FJwR3FP70.net
>>94
ちなみにdeepfakeはAIが作ったのをAIが自然か不自然かを判定して、それに基づいてAIが修正して、判定して、、というのを繰り返してできてる
ちなみにdeepfakeはAIが作ったのをAIが自然か不自然かを判定して、それに基づいてAIが修正して、判定して、、というのを繰り返してできてる
111: 2019/08/18(日) 10:50:52.43 ID:rSh9VpkD0.net
>>105
まあ人間だって自分が作ったレタッチ画像を自分で見直して
自然か不自然か判断してフィードバックしてるから、
知性と言うならばそのくらいは当然だな
まあ人間だって自分が作ったレタッチ画像を自分で見直して
自然か不自然か判断してフィードバックしてるから、
知性と言うならばそのくらいは当然だな
135: 2019/08/18(日) 11:21:01.55 ID:dSKIloX90.net
>>105
脳がこの判定しちゃって集中できない
脳がこの判定しちゃって集中できない
101: 2019/08/18(日) 10:46:26.68 ID:WASSZOYp0.net
そのうち録音なんかも捏造し放題で信用性なくなりそう
102: 2019/08/18(日) 10:46:37.34 ID:2boKO1Ok0.net
通信による契約は一切無効
対面して血判の書面を保管しあう時代へ
対面して血判の書面を保管しあう時代へ
118: 2019/08/18(日) 11:00:11.70 ID:Cuy+bZIQ0.net
これがホントのＡＩコラなのか
119: 2019/08/18(日) 11:00:29.57 ID:1hymPxxT0.net
なんかソックリさんのAV観てる感じしかしないけど、こういうエロに転用できる技術ってのはものすごい勢いで発展するんだよな
124: 2019/08/18(日) 11:07:56.03 ID:dQucOkUq0.net
便利なんだから悪用の方が多いと思う
127: 2019/08/18(日) 11:09:28.56 ID:J4lqHEDT0.net
シュワちゃんの顔をスタローンのにすげ替えたターミネーター動画とか全員タイソンのホームドラマとか、ああいうのはおもしろい
132: 2019/08/18(日) 11:16:07.04 ID:N2Jci75T0.net
これからは動画の端っこにフェイク判定AIによる信頼性判定数値出るようになるかもな。
おー信頼性86%かぁきっついなぁみたいな事言いながら観るわけだ。
おー信頼性86%かぁきっついなぁみたいな事言いながら観るわけだ。
137: 2019/08/18(日) 11:27:05.56 ID:43MGwS7J0.net
AIで偽物っぽいから良いんだよｗ
本物すぎるフェイクはいらない
本物すぎるフェイクはいらない
147: 2019/08/18(日) 11:52:01.02 ID:F2+hQm4s0.net
音声に関してもその人の喋り方の癖と音質学習させたら
死んだ声優の再現も可能になりそう
死んだ声優の再現も可能になりそう
155: 2019/08/18(日) 12:08:18.44 ID:y2tz75Ki0.net
AVに最近あるやつか
156: 2019/08/18(日) 12:08:42.40 ID:YsQxfo1+0.net
こういうのが浸透しちゃうとドライブレコーダーとか防犯カメラの証拠能力が無くなっちゃうよな
167: 2019/08/18(日) 12:58:30.14 ID:Y53SJH1z0.net
>>156
ドラレコは、物理法則無視できないからあんまり無茶な捏造はできないんじゃないかな
信号の色も下手に修正すればバレるし
ドラレコは、物理法則無視できないからあんまり無茶な捏造はできないんじゃないかな
信号の色も下手に修正すればバレるし
158: 2019/08/18(日) 12:10:43.15 ID:HVWC0uYX0.net
これで偽造防止にまたフィルムが台頭するかね？
162: 2019/08/18(日) 12:41:24.03 ID:06vcINcP0.net
映像を確実に証拠として使う方法がある
「アナログのフィルムテープで撮影すればいい」
「アナログのフィルムテープで撮影すればいい」
163: 2019/08/18(日) 12:42:26.60 ID:934oUudk0.net
スタローン版コマンドーとか出来るわけね
174: 2019/08/18(日) 13:55:02.47 ID:47yDfQ/e0.net
誰も迷惑すること無く、エロ同人みたいなエグい内容の
AVが作れるようになるなら夢があるじゃないか
AVが作れるようになるなら夢があるじゃないか
185: 2019/08/18(日) 14:31:10.67 ID:8M1gBPDf0.net
二次元美少女も自然な感じに合成出来る時代も来ますか？
189: 2019/08/18(日) 15:44:53.74 ID:gikam+QV0.net
映像だと売れないから
データとプログラムが別々に売られるようになるんだろうか
データとプログラムが別々に売られるようになるんだろうか
203: 2019/08/18(日) 19:22:09.65 ID:ZdL6x8/g0.net
素人も動画フィルターで簡単に盛れるようになってしまったからな
40: 2019/08/18(日) 09:55:18.13 ID:h70Q0qgV0.net
これからは動画も簡単に信用しちゃいけない時代になるのか
108: 2019/08/18(日) 10:48:40.26 ID:EYYCdu5s0.net
何が本当なのかわからない時代って怖い
特異点ていうのが現実的になってきた
特異点ていうのが現実的になってきた
172: 2019/08/18(日) 13:35:23.10 ID:jijbw1dH0.net
低予算で映画作ってる人たちの救世主になるといいな
|
|
|
引用元: http://hayabusa3.2ch.sc/test/read.cgi/news/1566088824/
|
|
|
1 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 06:18 ▼このコメントに返信 あのAIよく見なくても合成されてるのわかるし…
複雑な写真のミックスって大変なんだなあと
2 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 06:42 ▼このコメントに返信 登場人物全員マイク・タイソンになってる海外ドラマのOPはよく馴染んでて笑えたけどな
3 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 06:54 ▼このコメントに返信 だから警察の現場検証のカメラはフィルムなんだよな
4 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 07:06 ▼このコメントに返信 エロ絡むとどの分野でも凄い勢いで進化する
5 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 07:09 ▼このコメントに返信 ゆーて今の現実も精巧に作られたシミュレーションやし
6 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 07:15 ▼このコメントに返信 つまりえみつんは無実だった･･･？
7 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 07:16 ▼このコメントに返信 fakeAV好奇心で舐めてみたら異常にクオリティ高かった
画面のふちとかだと乱れる時あったからまだ改善の余地あるけど何も重なってないだけならかなりのクオリティの時代になってるな
8 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 07:24 ▼このコメントに返信 うそはうそであると見抜ける人でないと(掲示板を使うのは)難しい単語
ウソハウソデアルトミヌケルヒトデナイトケイジバンヲツカウノハムズカシイ
9 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 07:39 ▼このコメントに返信 アナログでって言ってる奴は取り込んでデジタル加工したら意味ないやん
アナログのごまかしもあるだろうし
10 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 07:39 ▼このコメントに返信 あなたは今、現実を見ています。それもAIコラです。
11 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 07:45 ▼このコメントに返信 今でこれだから、あと数十年とか百年後は何が事実で何が虚構か
あらゆるメディアの世界では真実を判別できなくなる
それに伴ってあらゆるメディアの情報に対する危惧が爆発的に上昇し
実体験のみを通した情報のみを人は強く信じるように回帰する
12 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 08:07 ▼このコメントに返信 データがたまればフェイクどころか全部CGで作れるんじゃない？
俳優も声優もいらなくなるな
13 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 08:11 ▼このコメントに返信 映像に説得力が無くなる時代、つまりテレビの報道に説得力が無くなる時代の到来
14 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 08:15 ▼このコメントに返信 アイコラ職人の仕事を奪う由々しき事態
15 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 08:21 ▼このコメントに返信 シュワルツェネッガーのバトルランナー思い出した。
16 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 08:28 ▼このコメントに返信 古い映画でこういうのあったな。大統領の演説が全部AIが創りだしたCGだったてやつ。
まぁあるあるネタなんだろうけど、実際起きると物凄く怖いな。
「ははｗいいSFネタｗ」なんて笑ってられないわマジで
17 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 08:32 ▼このコメントに返信 ディープフェイクな
一般人でも簡単に高品質な合成できるから、数年前アメリカで起きたように日本でもその内被害者出るだろうな
18 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 08:37 ▼このコメントに返信 ディープによる被害者予想
本命 安倍首相 四期目あるなら
対抗 小泉進次郎 もしくはクリステルのパターンも？
大穴 ホリエモン 一部熱狂的なファンにより作製
19 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 09:09 ▼このコメントに返信 ガッキーが喘いでるAVは不覚にも抜いてしまった
20 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 09:30 ▼このコメントに返信 こんなのaiが作った動画はどこかにaiが作ったことを知らせるマークなり情報を強制的に表示するようにすればいいだけじゃん
知恵出せばいいだけ
21 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 09:38 ▼このコメントに返信 ボーカロイドの俳優版、（アクトロイドとでも呼べば良いか？）が完成したら鬼籍に入った声優さんやナレーターの新作が作れるようになるな
遺族には新たな収入が発生する契約になるといいね
22 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 09:42 ▼このコメントに返信 普通なら配信元が何処か確認すればある程度信頼性は保てるけど
一般人から提供された映像使って事件や事故を取り上げて
ニュースにしてるような今のTV局が一番騙されるだろな
23 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 09:47 ▼このコメントに返信 >>20
どこの誰がそれを遵守させるのさ？
世界中に警察がいる今ですら日常的に犯罪だらけなのに規制したくらいでなくなるわけないでしょ
24 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 09:48 ▼このコメントに返信 ブレードランナー2049で若いころのショーン・ヤングを再現してた
今はまだ手間も金もかかるが
25 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 09:55 ▼このコメントに返信 ゆうこリンで抜いた
26 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 10:02 ▼このコメントに返信 AIはしらんけど、VRでソープ我慢できたわ。
27 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 10:50 ▼このコメントに返信 一周回ってフィルムの時代がきそう
28 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 11:45 ▼このコメントに返信 顔認証も高画質化のせいで静脈、網膜も突破可能になった。
その最大の懸念事項が５G関連のスパイ技術やスパイウェア問題。
29 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 13:24 ▼このコメントに返信 今のAIはまだまだだけど、そのうちヤバくなるんだろうなぁ〜
まぁ、具体的に今のAIは基本的に2次元的な認識なんだけど
（だから髪が体と融合したり、アクセサリーが体にめり込んだりとかキモい）
これが3次元の認識になったら相当ヤバいぞ
30 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 15:38 ▼このコメントに返信 AIを見抜くAIがもう生まれつつあるからセーフ。
というか、CGI技術が特異点超えてからもうずっと言われてる問題やろ。結局は値段の問題だったけど、昨今の技術がそこをクリアしつつあるだけ。
31 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 20:39 ▼このコメントに返信 米13
ところが人間が信じるのだよな
ここ近年のフェイクニュースの傾向の一つが映像付きだから
映像がつくと無条件に信じやすい傾向がある
まあ、ちょっと昔は写真でもそうだったのだけどね
32 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 20:40 ▼このコメントに返信 米30
ちゃんと調べられるのならいいけど、ちゃんと調べられないのが一番怖い
有名人よりも一般人のほうが被害にあったときに立て直しが効かない
フェイクとわかってもその情報はわかる前に比べて拡散力が弱いのが一般的だし
33 名前 ： 暇つぶしの名無しさん投稿日：2019年08月19日 23:27 ▼このコメントに返信 エロアニメでもつかえたら個人的にすごいはかどる
34 名前 ： 暇つぶしの名無しさん投稿日：2019年08月20日 03:20 ▼このコメントに返信 流出してもフェイクです！って言えるようになるな