日本のネット民「岸田を変態糞親父にしてみた」　4chan民「エマ・ワトソンをヒトラーにしてみた」 [632443795]

元スレ

1 ：草井満子(茸) [GB]：2024/02/01(木) 06:38:09.57 ID:7LjmulHb0●.net ?2BP(10000)
sssp://img.5ch.net/ico/gikog_pimiento.gif
AIでクローン音声を生成する最新ツールが4chan民により「エマ・ワトソンの声で『わが闘争』を読み上げさせる」など悪用されまくる事態に

ポーランドに拠点を置くAIスタートアップのElevenLabsは、音声サンプルから「声のクローン」を作成してさまざまな文章を読み上げさせるツールを開発しています。ElevenLabsが最新ツールのベータ版を公開したところ、海外掲示板・4chanのユーザーたちにより「有名人の声で人種差別発言や不謹慎なことを言わせる」といった悪用事例が急増してしまったと報じられています。

ElevenLabsは元Googleの機械学習エンジニアであるPiotr Dabkowski氏らが設立したAIスタートアップであり、ゼロから新しい音声を設計する「合成音声作成ツール」と、サンプルの音声を基に文章を読み上げさせる「クローン音声作成ツール」を提供しています。

「クローン音声作成ツール」の場合、1分を超えるクリーンな音声サンプルを入力すれば、そのサンプルを基にクローン音声を生成できるとのこと。ターゲットとなるユースケースとして、ElevenLabsはニュースレターや書籍の読み上げ、動画内の音声などに利用できるとしています。

ところが、ElevenLabsがクローン音声作成ツールのベータ版を公開したところ、4chanユーザーが「有名人の声で人種差別発言や不謹慎なことを言わせる」といった悪用を始めてしまいました。一例では、「女優のエマ・ワトソン氏の声でナチス指導者アドルフ・ヒトラーの著書『わが闘争』を読み上げさせる」といったものが確認されています。

https://gigazine.net/news/20230131-ai-voice-elevenlabs-4chan-abuse/

6 ：名無しさん＠涙目です(茸) [GB]：2024/02/01(木) 06:45:27.76 ID:huWmabiE0.net

59 ：名無しさん＠涙目です。：2024/02/01(木) 21:09:03.14 ID:9oYIvv720.net

2 ：名無しさん＠涙目です。(茸) [US]：2024/02/01(木) 06:40:24.40 ID:AnrTyP5r0.net

22 ：名無しさん＠涙目です。(タイ王国) [FR]：2024/02/01(木) 07:10:27.34 ID:2JSicRPH0.net

22 ：名無しさん＠涙目です。(タイ王国) [FR]：2024/02/01(木) 07:10:27.34 ID:2JSicRPH0.net

5 ：名無しさん＠涙目です。(香川県) [RU]：2024/02/01(木) 06:44:41.68 ID:wEPJBbhi0.net

9 ：名無しさん＠涙目です。(愛知県) [US]：2024/02/01(木) 06:49:05.53 ID:leUn4SzE0.net

48 ：名無しさん＠涙目です。：2024/02/01(木) 10:53:44.82 ID:1wRaMCu40.net

79 ：名無しさん＠涙目です。：2024/02/02(金) 23:15:53.21 ID:FvmdhQ4B0.net

30 ：名無しさん＠涙目です。(茸) [GB]：2024/02/01(木) 07:38:38.46 ID:vW6qHhAb0.net

27 ：名無しさん＠涙目です。(愛知県) [EU]：2024/02/01(木) 07:26:15.39 ID:t6rOfd/O0.net

73 ：名無しさん＠涙目です。：2024/02/01(木) 22:58:25.63 ID:mtkxAEzP0.net

4 ：名無しさん＠涙目です。(茸) [ﾆﾀﾞ]：2024/02/01(木) 06:43:31.74 ID:k6mFEWzC0.net

23 ：名無しさん＠涙目です。(やわらか銀行) [US]：2024/02/01(木) 07:13:47.58 ID:F4Lkc7hP0.net

58 ：名無しさん＠涙目です。(庭) [IN]：2024/02/01(木) 20:18:49.90 ID:oeQMAq5C0.net

13 ：あ(高知県) [US]：2024/02/01(木) 06:54:48.85 ID:M9SlbJ2a0.net

17 ：名無しさん＠涙目です。(香川県) [RU]：2024/02/01(木) 07:02:43.62 ID:wEPJBbhi0.net

75 ：名無しさん＠涙目です。：2024/02/02(金) 03:18:42.30 ID:c6ezZYFq0.net

63 ：名無しさん＠涙目です。：2024/02/01(木) 22:05:26.91 ID:j8Tb6xTj0.net

15 ：名無しさん＠涙目です。(光) [CN]：2024/02/01(木) 07:01:28.88 ID:sR2UHxp50.net

28 ：名無しさん＠涙目です。(やわらか銀行) [ﾆﾀﾞ]：2024/02/01(木) 07:28:42.61 ID:A0GzOD2X0.net

35 ：名無しさん＠涙目です。(香川県) [RU]：2024/02/01(木) 07:52:12.73 ID:wEPJBbhi0.net

77 ：名無しさん＠涙目です。：2024/02/02(金) 08:17:22.54 ID:iNgEwk7U0.net

53 ：名無しさん＠涙目です。(愛知県) [US]：2024/02/01(木) 19:52:49.20 ID:8peiYXdC0.net

38 ：名無しさん＠涙目です。(日本のどこかに) [MO]：2024/02/01(木) 08:15:40.89 ID:UJd084LT0.net

36 ：名無しさん＠涙目です。(茸) [US]：2024/02/01(木) 07:54:58.37 ID:dB1UghRT0.net

12 ：名無しさん＠涙目です。(東京都) [US]：2024/02/01(木) 06:50:46.08 ID:Gq3C0f7t0.net

49 ：名無しさん＠涙目です。(みょ) [RU]：2024/02/01(木) 11:33:56.55 ID:kTUnr4vS0.net

21 ：名無しさん＠涙目です。(光) [CN]：2024/02/01(木) 07:09:12.53 ID:sR2UHxp50.net

69 ：名無しさん＠涙目です。：2024/02/01(木) 22:31:36.25 ID:30RUnrtN0.net