「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議… 講座運営企業が謝罪「倫理的に懸念」 [582792952]

元スレ

1 ：名無しさん＠涙目です。：2024/08/09(金) 12:02:32.81 ID:PoRKPFfW0.net ?PLT(12000)
https://img.5ch.net/ico/o_anime_usodesu.gif
!extend::default:1000:512:donguri=2/1:

https://news.yahoo.co.jp/articles/d7b04b2596e02a3db0c6915b4e2d94c9e93499b7

　IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。

　物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました（その後アプリは非公開になりブログは削除）。

　これに対して、悪用を懸念する声や、差別を助長するのではないかといった批判、倫理的に問題があるとする意見などが寄せられました。「医師が慎重に時間をかけて診断しているものを、写真だけで判断できるものではない」との指摘もあり、受講者自身も後に「医学的根拠は現状ない」と追記しています。

　またブログで、テーマの選定にあたって「チューターの後押しがあった」といった記述が見られたことから、講座を開設しているアイデミーに対して「なぜ止めなかったのか」との批判が寄せられました。

　同社は7日に「Aidemy Premium サービス強化と新たな取り組みについて」とする声明を発表。「弊社サービスをご利用の学習者様が作成する学習成果物に関し、運営体制の不備から公開された内容について、倫理的に懸念される状況が発生しました」として謝罪しました。

　同社はサービス内で提供している情報、運営を見直し、ガイドラインの強化と従業員教育の徹底を進めるとしており、また受講者向けにはAI倫理のコースなど、学習が推奨される内容のコンテンツを拡充し、順次追加費用なく提供するとしています。

　ねとらぼ編集部がこの件についてアイデミーに問い合わせたところ「ご指摘・ご意見について真摯に受けとめております。現在、社内で早急に事実確認の実施・改善に向けた対応を進めております」との回答がありました。

VIPQ2_EXTDAT: default:default:1000:512:donguri=2/1: EXT was configured

8 ：：2024/08/09(金) 12:07:44.84 ID:p/G82mxB0.net

二郎ラーメン読み込ませると自閉症判定らしいな

41 ：名無しさん＠涙目です。：2024/08/09(金) 13:53:06.40 ID:2kSpfLN+0.net

自閉症ってちょっと綺麗目な顔してるって聞いたことあるけどどうなの？

13 ：名無しさん＠涙目です。：2024/08/09(金) 12:09:30.47 ID:CHVAOzZm0.net

AI使うまでもなく一目瞭然じゃないか

37 ：名無しさん＠涙目です。：2024/08/09(金) 13:15:36.33 ID:DduBPzd70.net

試して……試されてみたい

37 ：名無しさん＠涙目です。：2024/08/09(金) 13:15:36.33 ID:DduBPzd70.net

試して……試されてみたい

23 ：名無しさん＠涙目です。：2024/08/09(金) 12:20:15.98 ID:IkqWrdm30.net

おれ写真写り悪いから心配だわ

31 ：名無しさん＠涙目です。：2024/08/09(金) 12:43:00.77 ID:LeHICHI90.net

>>26
ふわっち見てみると知的障害や発達障害多いせいか似たような顔が多い
俺もそうだしｗ

43 ：名無しさん＠涙目です。：2024/08/09(金) 13:58:44.61 ID:+Ot/3az+0.net

>>10
印象や主観を医学的根拠とは呼ばないんだが、モメンには難しすぎるかな？

>>14
ちょっと書いてる意味が分かんない

30 ：名無しさん＠涙目です。：2024/08/09(金) 12:40:53.89 ID:0PjUgUb70.net

精度が問題だな

14 ：名無しさん＠涙目です。：2024/08/09(金) 12:10:23.55 ID:kAErL8Jt0.net

お医者さんは“医学的根拠”を理解できない、出来てないから“エビデンス”って言葉が出ると身構える

50 ：名無しさん＠涙目です。：2024/08/09(金) 15:18:56.63 ID:i1rZgshk0.net

でも企業の採用AIはこの機能絶対入れてるよね…

48 ：名無しさん＠涙目です。：2024/08/09(金) 14:49:26.47 ID:0bbzNmIC0.net

ほぼ特定出来ちゃうのか…

22 ：名無しさん＠涙目です。：2024/08/09(金) 12:19:14.73 ID:4evAxKnv0.net

>>17
将来禿げるかどうかの写真判定は欲しい

33 ：名無しさん＠涙目です。：2024/08/09(金) 12:52:08.61 ID:99ZQmdlh0.net

自己チェックしたい

39 ：：2024/08/09(金) 13:45:34.93 ID:VA78MnEU0.net

医師が慎重に時間をかけて診断しているものを、写真だけで判断できるものではない

ではその根拠を示してもろて
写真判定の研究を放棄するべきではない

24 ：名無しさん＠涙目です。：2024/08/09(金) 12:23:07.51 ID:Kjrvj5aU0.net

整形見破るアプリ作って

29 ：(日本)：2024/08/09(金) 12:38:45.94 ID:ngV4biQd0.net

間違えたら責任取って腹を切るっていうならいいよ

38 ：名無しさん＠涙目です。：2024/08/09(金) 13:25:52.97 ID:w9NHWMZN0.net

自閉症なんてだいたいわかるっしょ
そんな事より発達障害や鬱病の連中を見分けられるようにしろよw

5 ：名無しさん＠涙目です。：2024/08/09(金) 12:06:43.79 ID:uylqSAAM0.net

童貞判定アプリ作りう

20 ：：2024/08/09(金) 12:15:05.51 ID:nIzFKuzX0.net

ちょっと自分で使ってみたい

35 ：名無しさん＠涙目です。：2024/08/09(金) 12:59:58.43 ID:kvleyeoZ0.net

それより在日＋在日からの帰化人判別開発しろよ

32 ：：2024/08/09(金) 12:47:59.36 ID:Xy5wcwU10.net

ちゃんとサンプル使って
AIで線引きできるようにした方がいいと思う。
判定だけしてる医者は失業しちゃうけど、
医者のサポートができ、
医者もより本質的なところに力が注げるのでは？

15 ：名無しさん＠涙目です。：2024/08/09(金) 12:10:55.21 ID:Go2wEPGM0.net

俺を判定するな！！
それだけだ

44 ：名無しさん＠涙目です。：2024/08/09(金) 14:03:21.08 ID:+Ot/3az+0.net

>>42
写真の目がキョドるとかいうホラーなのかアタヲカなのか、どっちだよ…

6 ：名無しさん＠涙目です。：2024/08/09(金) 12:07:08.27 ID:arCG4eP80.net

>>3
ホモ発見機とかに流用できる

21 ：名無しさん＠涙目です。：2024/08/09(金) 12:18:39.00 ID:DZ8LnWPS0.net

torrentでくれ

54 ：名無しさん＠涙目です。：2024/08/09(金) 20:27:38.16 ID:/Te9CsLa0.net

やっぱ金貰うのは
セレブになる
性接待と売春斡旋の違いで規模が違う

36 ：：2024/08/09(金) 13:13:38.50 ID:N0xH1J9P0.net

ワシもついに診断されるか…

2 ：名無しさん＠涙目です。：2024/08/09(金) 12:03:29.01 ID:PoRKPFfW0.net ?PLT(12000)

https://img.5ch.net/ico/o_anime_usodesu.gif
　テーマ選定に当たってチューターの後押しがあったとされる点については、カウンセリングに当たっては「特定のテーマを肯定あるいは否定するなどは行わず、受講者自身で検討し選択できるようにする姿勢を堅持した」「テーマ選定にあたって選ぶ基準案を例示（これまでの経歴と親和性のありそうなテーマが取り組みやすい）」の2点を行ったと説明しています。

　同社は「当社の運営について振り返るべき点があり、当該過程の実施にあたって当社からの情報提供や機会提供において改善点があったと考えております」としており、社内ガイドライン、特に受講者への対応に関するものの見直しを既に始めていると述べています。

　「受講者が自身の選択を実行することで起こす可能性がある他者・自身への損害など、リスクに関する情報提供と認識保有の促進」「学習過程の目的により適した学習の実施方法の情報提供・認識機会の提供」を改善が必要な部分として同社は挙げています。

　修了条件である成果物（アプリ・ブログ）は公開必須でないにもかかわらず、公開必須でないことに明確な言及ができておらず、ブログ作成時に公開が必要と取れる可能性のある記載があったとして、これらを改善するとも述べています。

　なお同社は8月5日付けでガイドライン強化のほか、規約の改定を発表していますが、規約の改定については今回の件を受けてのものではないとしています

45 ：名無しさん＠涙目です。：2024/08/09(金) 14:03:53.49 ID:+Ot/3az+0.net

>>38
つ鏡