日本のネット民「岸田を変態糞親父にしてみた」 4chan民「エマ・ワトソンをヒトラーにしてみた」 [632443795]

元スレ

1 ：草井満子(茸) [GB]：2024/02/01(木) 06:38:09.57 ID:7LjmulHb0●.net ?2BP(10000)
sssp://img.5ch.net/ico/gikog_pimiento.gif
AIでクローン音声を生成する最新ツールが4chan民により「エマ・ワトソンの声で『わが闘争』を読み上げさせる」など悪用されまくる事態に

ポーランドに拠点を置くAIスタートアップのElevenLabsは、音声サンプルから「声のクローン」を作成してさまざまな文章を読み上げさせるツールを開発しています。ElevenLabsが最新ツールのベータ版を公開したところ、海外掲示板・4chanのユーザーたちにより「有名人の声で人種差別発言や不謹慎なことを言わせる」といった悪用事例が急増してしまったと報じられています。

ElevenLabsは元Googleの機械学習エンジニアであるPiotr Dabkowski氏らが設立したAIスタートアップであり、ゼロから新しい音声を設計する「合成音声作成ツール」と、サンプルの音声を基に文章を読み上げさせる「クローン音声作成ツール」を提供しています。

「クローン音声作成ツール」の場合、1分を超えるクリーンな音声サンプルを入力すれば、そのサンプルを基にクローン音声を生成できるとのこと。ターゲットとなるユースケースとして、ElevenLabsはニュースレターや書籍の読み上げ、動画内の音声などに利用できるとしています。

ところが、ElevenLabsがクローン音声作成ツールのベータ版を公開したところ、4chanユーザーが「有名人の声で人種差別発言や不謹慎なことを言わせる」といった悪用を始めてしまいました。一例では、「女優のエマ・ワトソン氏の声でナチス指導者アドルフ・ヒトラーの著書『わが闘争』を読み上げさせる」といったものが確認されています。

https://gigazine.net/news/20230131-ai-voice-elevenlabs-4chan-abuse/

26 ：名無しさん＠涙目です。(東京都) [EU]：2024/02/01(木) 07:20:15.45 ID:RgP+GDnq0.net

子役上がりは体型が残念子が多いんだよね
ハリウッド映画のヒロインはみんなエロい体付きしてるでしょう

64 ：名無しさん＠涙目です。：2024/02/01(木) 22:07:14.40 ID:X0Dvsa8X0.net

ちちぬけあふんねおえまむねゆむんうたてそきこゆせわてえけんつもぬひこむはうへそちてあほみ

68 ：名無しさん＠涙目です。：2024/02/01(木) 22:26:26.54 ID:UckuukT60.net

まず低血糖な人だよな
正直
もとをたどればガーシーと信者の謎の色気がある。

71 ：名無しさん＠涙目です。：2024/02/01(木) 22:41:52.03 ID:RG8LLRFr0.net

>>15
でもさあ猫ちゃん君と趣味もどうせこんなことしてもうた

21 ：名無しさん＠涙目です。(光) [CN]：2024/02/01(木) 07:09:12.53 ID:sR2UHxp50.net

吉岡里帆の声で文章を淡々と読み上げさせるのは簡単だろうな

フランス書院の文章で感情込めて読み上げさせることができるようになるかかどうか

73 ：名無しさん＠涙目です。：2024/02/01(木) 22:58:25.63 ID:mtkxAEzP0.net

耐える会621[ワッチョイ]
バイデンがコロナったときてのは？

4 ：名無しさん＠涙目です。(茸) [ﾆﾀﾞ]：2024/02/01(木) 06:43:31.74 ID:k6mFEWzC0.net

エマワトソンは残念おっぱい
これ豆な

76 ：名無しさん＠涙目です。：2024/02/02(金) 03:22:22.50 ID:XRDkqhr60.net

AVの喘ぎ声をアイドルの声に変換したりできんの？

13 ：あ(高知県) [US]：2024/02/01(木) 06:54:48.85 ID:M9SlbJ2a0.net

>>7
そっちかｗ

34 ：名無しさん＠涙目です。(みかか) [CA]：2024/02/01(木) 07:48:13.87 ID:PJWqwAG+0.net

ここまで来ると実在する人間の写真や声をAIで加工する行為を犯罪とするしかないんじゃないの？

47 ：名無しさん＠涙目です。：2024/02/01(木) 10:33:52.19 ID:6HM5uu2F0.net

迷惑系支那人達に中共批判させるディープフェイク作ろうw

33 ：名無しさん＠涙目です。(静岡県) [ﾆﾀﾞ]：2024/02/01(木) 07:42:46.38 ID:IR/XnXBN0.net

こんなネタに使われるなんてエマ・ワトソンって嫌われてんの？

12 ：名無しさん＠涙目です。(東京都) [US]：2024/02/01(木) 06:50:46.08 ID:Gq3C0f7t0.net

>>7
ガチギレ声で言ってほしい

42 ：武漢肺炎　六四天安門事件(茸) [CN]：2024/02/01(木) 08:35:15.18 ID:2glHPD7Y0.net

>>41

　　　　　　　　　 ,,. -─‐ ””´￣　　　｀ヽ
　　　　　　 ,. ‐’´　　　　　　　　　　　　　＼
　　　　／　　　　　　　　　　　　　　　　　　,ﾘ
　　　／　　　　　　　　　　　　　　　　　　　,.ゝ
　　 !　　　　　　　　　　　　　　　　　 /／〈
　　 |　　　　　　　　／⌒＞yヽ　　fr'”‘、　}
　　　|　　　　　 , ‘　　 ´ （’´　`ｰ’´　　l　ﾉ
　　 │　　　　　　/　　　　　｀　　　　　　ﾚ’　　　　今日、食堂でエマ中尉の髪型の話題で盛り上がった。
　　 |　　　　　　（._　　　　　　　　　　 | 　　　　全員一致で亀頭をイメージしていたらしい。
　　 |　　　　　　 / -─- ､._　　　 __,..ヘ! 　　　　隅の方で味噌汁を啜っていた
　　　|　　　　r‐､ {　　ｰヮﾆﾆ`ｰ’　〈ｩﾆ’‐.|　　　　　ジャマイカンも吹き出していた。
　　　ヽ　　　| ,ゝ| !　　　　　　　　　ヽ、　|　　　　食堂を出ると、エマが顔を真っ赤にして
　　　 }　　ヽ(､Ll　　　　　　　 r:ﾝ’　l　　　　青筋立ててこちらを睨み付けていた。
　　　 {　! { { /`ｰi　　　　　 _,. -─‐ｧ　 l ￣￣｀! 勃起したソレをイメージしてしまい
　　　 ,ゝﾄ､ヽ{　　{　　　　 `ｰ– ‘ 　 ,’　　　　|　吹き出しそうなのを必死に堪えていたのだが、
　　 i(　ヽﾐ`ヽ　　ヽ､　　　　　ｰ　　 l　　　　横でカクリコンが腹を抱えて大笑いしていた。
.　　 | `”’┴– ､.._　　｀”‐､　　　　　 ,!、　　亅強烈なプレッシャーを感じた俺は、
　　　| 　＿＿＿__￣￣‾ヽ` ｰ-r-‐ﾍ　ヽ　く´ 　すぐさまその場から逃げ出した。
.　　　!　 |=<>=<>=|　　　　ト､-､r=ﾆ⌒ヽ.）　ヽ　後ろの方で、カクリコンの　
　 _,r=ゝ、￣￣￣　　　　 |　ヽ. ＼　｀ヽ }　/ 　　「前髪は抜かないでくれぇ」　という断末魔が聞こえた。　　　
　　　　　 `ヽー—–‐‐┴､　} 　ヽﾚ’,ﾉ./`ｰ- この日以来、誰もエマの髪型の話をする者は居なくなった。