「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議… 講座運営企業が謝罪 「倫理的に懸念」 [582792952]

1 :名無しさん@涙目です。:2024/08/09(金) 12:02:32.81 ID:PoRKPFfW0.net ?PLT(12000)
https://img.5ch.net/ico/o_anime_usodesu.gif
!extend::default:1000:512:donguri=2/1:

https://news.yahoo.co.jp/articles/d7b04b2596e02a3db0c6915b4e2d94c9e93499b7

 IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。

 物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました(その後アプリは非公開になりブログは削除)。

 これに対して、悪用を懸念する声や、差別を助長するのではないかといった批判、倫理的に問題があるとする意見などが寄せられました。「医師が慎重に時間をかけて診断しているものを、写真だけで判断できるものではない」との指摘もあり、受講者自身も後に「医学的根拠は現状ない」と追記しています。

 またブログで、テーマの選定にあたって「チューターの後押しがあった」といった記述が見られたことから、講座を開設しているアイデミーに対して「なぜ止めなかったのか」との批判が寄せられました。

 同社は7日に「Aidemy Premium サービス強化と新たな取り組みについて」とする声明を発表。「弊社サービスをご利用の学習者様が作成する学習成果物に関し、運営体制の不備から公開された内容について、倫理的に懸念される状況が発生しました」として謝罪しました。

 同社はサービス内で提供している情報、運営を見直し、ガイドラインの強化と従業員教育の徹底を進めるとしており、また受講者向けにはAI倫理のコースなど、学習が推奨される内容のコンテンツを拡充し、順次追加費用なく提供するとしています。

 ねとらぼ編集部がこの件についてアイデミーに問い合わせたところ「ご指摘・ご意見について真摯に受けとめております。現在、社内で早急に事実確認の実施・改善に向けた対応を進めております」との回答がありました。


VIPQ2_EXTDAT: default:default:1000:512:donguri=2/1: EXT was configured

56 :名無しさん@涙目です。:2024/08/09(金) 21:27:20.57 ID:RwLCDPmM0.net

宮崎駿激怒

5 :名無しさん@涙目です。:2024/08/09(金) 12:06:43.79 ID:uylqSAAM0.net

童貞判定アプリ作りう

3 ::2024/08/09(金) 12:04:04.92 ID:eUeDwLE/0.net

それ利用できんの?

29 :(日本):2024/08/09(金) 12:38:45.94 ID:ngV4biQd0.net

間違えたら責任取って腹を切るっていうならいいよ

2 :名無しさん@涙目です。:2024/08/09(金) 12:03:29.01 ID:PoRKPFfW0.net ?PLT(12000)

https://img.5ch.net/ico/o_anime_usodesu.gif
 テーマ選定に当たってチューターの後押しがあったとされる点については、カウンセリングに当たっては「特定のテーマを肯定あるいは否定するなどは行わず、受講者自身で検討し選択できるようにする姿勢を堅持した」「テーマ選定にあたって選ぶ基準案を例示(これまでの経歴と親和性のありそうなテーマが取り組みやすい)」の2点を行ったと説明しています。

 同社は「当社の運営について振り返るべき点があり、当該過程の実施にあたって当社からの情報提供や機会提供において改善点があったと考えております」としており、社内ガイドライン、特に受講者への対応に関するものの見直しを既に始めていると述べています。

 「受講者が自身の選択を実行することで起こす可能性がある他者・自身への損害など、リスクに関する情報提供と認識保有の促進」「学習過程の目的により適した学習の実施方法の情報提供・認識機会の提供」を改善が必要な部分として同社は挙げています。

 修了条件である成果物(アプリ・ブログ)は公開必須でないにもかかわらず、公開必須でないことに明確な言及ができておらず、ブログ作成時に公開が必要と取れる可能性のある記載があったとして、これらを改善するとも述べています。

 なお同社は8月5日付けでガイドライン強化のほか、規約の改定を発表していますが、規約の改定については今回の件を受けてのものではないとしています

31 :名無しさん@涙目です。:2024/08/09(金) 12:43:00.77 ID:LeHICHI90.net

>>26
ふわっち見てみると知的障害や発達障害多いせいか似たような顔が多い
俺もそうだしw

28 :名無しさん@涙目です。:2024/08/09(金) 12:37:32.93 ID:ozGKOg1b0.net

精度すげぇひくそう

18 :名無しさん@涙目です。:2024/08/09(金) 12:14:26.08 ID:xy8TTJaf0.net

50 :名無しさん@涙目です。:2024/08/09(金) 15:18:56.63 ID:i1rZgshk0.net

でも企業の採用AIはこの機能絶対入れてるよね…

38 :名無しさん@涙目です。:2024/08/09(金) 13:25:52.97 ID:w9NHWMZN0.net

自閉症なんてだいたいわかるっしょ
そんな事より発達障害や鬱病の連中を見分けられるようにしろよw

48 :名無しさん@涙目です。:2024/08/09(金) 14:49:26.47 ID:0bbzNmIC0.net

ほぼ特定出来ちゃうのか…

9 :名無しさん@涙目です。:2024/08/09(金) 12:08:12.41 ID:ePLFQmy90.net

ねらーの顔写真撮ったら笑える結果になりそうw

20 ::2024/08/09(金) 12:15:05.51 ID:nIzFKuzX0.net

ちょっと自分で使ってみたい

22 :名無しさん@涙目です。:2024/08/09(金) 12:19:14.73 ID:4evAxKnv0.net

>>17
将来禿げるかどうかの写真判定は欲しい

30 :名無しさん@涙目です。:2024/08/09(金) 12:40:53.89 ID:0PjUgUb70.net

精度が問題だな

33 :名無しさん@涙目です。:2024/08/09(金) 12:52:08.61 ID:99ZQmdlh0.net

自己チェックしたい

17 :名無しさん@涙目です。:2024/08/09(金) 12:13:18.32 ID:Bb3lQa3i0.net

顔写真でハゲかどうかを判別するアプリもくれよ

24 :名無しさん@涙目です。:2024/08/09(金) 12:23:07.51 ID:Kjrvj5aU0.net

整形見破るアプリ作って

54 :名無しさん@涙目です。:2024/08/09(金) 20:27:38.16 ID:/Te9CsLa0.net

やっぱ金貰うのは
セレブになる
性接待と売春斡旋の違いで規模が違う

44 :名無しさん@涙目です。:2024/08/09(金) 14:03:21.08 ID:+Ot/3az+0.net

>>42
写真の目がキョドるとかいうホラーなのかアタヲカなのか、どっちだよ…

16 :名無しさん@涙目です。:2024/08/09(金) 12:12:04.01 ID:wjRsDRBC0.net

またクソリベに負けたの?

36 ::2024/08/09(金) 13:13:38.50 ID:N0xH1J9P0.net

ワシもついに診断されるか…

11 ::2024/08/09(金) 12:09:30.14 ID:kEbOG6Xw0.net

目が死んだ魚だったら判断できるな

10 :名無しさん@涙目です。:2024/08/09(金) 12:09:20.07 ID:kAErL8Jt0.net

>>1
“医学的根拠は無い”ってどーゆーこと?
“医学的根拠しか無い”の誤りでは?

43 :名無しさん@涙目です。:2024/08/09(金) 13:58:44.61 ID:+Ot/3az+0.net

>>10
印象や主観を医学的根拠とは呼ばないんだが、モメンには難しすぎるかな?

>>14
ちょっと書いてる意味が分かんない

13 :名無しさん@涙目です。:2024/08/09(金) 12:09:30.47 ID:CHVAOzZm0.net

AI使うまでもなく一目瞭然じゃないか

53 :名無しさん@涙目です。:2024/08/09(金) 20:17:07.01 ID:Q6Htb2C30.net

適当なの作ってあなたはこのアプリで妖精判定されましたつきましては〜みたいな商売できそうやね
こわいこわい

19 :名無しさん@涙目です。:2024/08/09(金) 12:14:39.69 ID:iG8ZxWjB0.net

顔採用がまかり通るジャップランドならセーフ

49 :名無しさん@涙目です。:2024/08/09(金) 14:58:53.43 ID:uyV+ex7z0.net

AI講座の受講者ごときが謎の学習データで作った謎のアプリで判別できるわけないやん

12 :名無しさん@涙目です。:2024/08/09(金) 12:09:30.30 ID:G92Xt1f+0.net

判別できるメリットと誤判別のデメリットを考えれば
なにかに使ったとしても使用の事実を伏せ、根拠として使わず、自己責任かつ非公式に使用するものであって
世界に向けて大公開するのが適切かどうかってのは考えなくても分かると思うんだけどな