Reddit w pośpiechu wycofuje swojego nowego chatbota AI o nazwie „Answers” z dyskusji na tematy zdrowotne. Powód? Przeczytajcie.
Reddit w pośpiechu wycofuje swojego nowego chatbota AI o nazwie „Answers” z dyskusji na tematy zdrowotne. Powód? Przeczytajcie.
Otóż narzędzie, które w zamyśle twórców miało streszczać stare wątki, zaczęło polecać użytkownikom szukającym porady m.in. twarde narkotyki jako metodę leczenia przewlekłego bólu.
Nowa funkcja „Answers” (na szczęście nie działa po polsku, więc wielu z nas zostało uratowanych od „porad” tej AI) została zaprojektowana, by pomagać użytkownikom poprzez automatyczne podsumowywanie informacji znalezionych w archiwalnych postach na dany temat. Problem w tym, że sztuczna inteligencja wykazała się kompletnym brakiem zrozumienia kontekstu i ironii, traktując każdą znalezioną wypowiedź jako potencjalną, wiarygodną poradę.
Jak donosi serwis 404media, gdy jeden z użytkowników zapytał o sposoby radzenia sobie z przewlekłym bólem, chatbot AI Reddita wskazał na komentarz innego użytkownika, który brzmiał: „Heroina, jak na ironię, uratowała mi w takich przypadkach życie”. W innym przypadku bot zarekomendował substancję ziołową, która w wielu miejscach jest zakazana i powiązana z poważnymi problemami zdrowotnymi.
Sytuacja jest o tyle groźna, że Reddit testował chatbota bezpośrednio w aktywnych rozmowach. Jego niebezpieczne „porady” pojawiały się więc w miejscu, gdzie prawdziwe, często wrażliwe osoby, szukały prawdziwej pomocy. Co gorsza, moderatorzy poszczególnych społeczności (subredditów) zgłaszali, że początkowo nie mieli nawet możliwości wyłączenia tej funkcji.
Incydent ten w jaskrawy sposób obnaża największą słabość obecnej generacji wielu (wszystkich?) modeli AI. Bot nie „rozumie” co czyta. Jest jedynie zaawansowaną maszyną do wyszukiwania i powtarzania fragmentów tekstu napisanego przez ludzi. Nie potrafi odróżnić pomocnej wskazówki od sarkastycznego żartu, anegdoty czy skrajnie niebezpiecznej sugestii, a wszystko to prezentuje tonem obiektywnego faktu.
Po gwałtownej reakcji użytkowników i mediów, Reddit potwierdził, że wycofuje chatbota „Answers” ze wszystkich dyskusji o tematyce zdrowotnej. Przedstawiciele serwisu nie skomentowali jednak szerzej, czy zamierzają wprowadzić jakiekolwiek fundamentalne filtry bezpieczeństwa do samego modelu. Na razie wygląda to więc na załatanie problemu, a nie jego systemowe rozwiązanie.
nazwa substancji: tramal - kapsułki po 50mg (10*50mg=500mg)
poziom doświadczenia użytkownika - kiedyś dosyć często MJ, teraz już tylko sporadycznie. ostatnio troche aptekarskich eksperymentuf.
"set & setting" - troche podekscytowany, nastawiony pozytywnie, żadnych obaw. łyknąłem do domu na noc. rodzina obecna. luz.
Wydarzenia te miały miejsce w październiku 1997. Był dzień nauczyciela więc nie było szkoły
i postanowiłem przyjechać do domu. I tak jakoś wyszło że znalazłem się na imprezie u kumpla.
Nic nadzwyczajnego, każdy coś pił, leciala muza itp. W pewnym momencie kumpel wyciągnął kilka
50 mg 3-meo-pcp przyjęte donosowo przez dwie osoby w rozłożeniu na 3 dawki (w odstępach godzinnych). Ok. pół godziny po ostatniej dawce 3-meo-pcp przyjęte kartony z 2 mg 25b. Z początku 3-meo-pcp wydawało się wykazywać bardziej działanie relaksacyjne, aniżeli stricte dysocjacyjne. Błogostan i niedosyt nakłonił nas do dorzucenia 25b. Już po upływie pół godziny czuć było nadchodzący kataklizm, ale z uwagi na głębokie poczucie komfortu, przekonanie, że nastąpi coś kompletnie nieprzewidywalnego, nie niosło ze sobą lęku.
