Reddit w pośpiechu wycofuje swojego nowego chatbota AI o nazwie „Answers” z dyskusji na tematy zdrowotne. Powód? Przeczytajcie.
Reddit w pośpiechu wycofuje swojego nowego chatbota AI o nazwie „Answers” z dyskusji na tematy zdrowotne. Powód? Przeczytajcie.
Otóż narzędzie, które w zamyśle twórców miało streszczać stare wątki, zaczęło polecać użytkownikom szukającym porady m.in. twarde narkotyki jako metodę leczenia przewlekłego bólu.
Nowa funkcja „Answers” (na szczęście nie działa po polsku, więc wielu z nas zostało uratowanych od „porad” tej AI) została zaprojektowana, by pomagać użytkownikom poprzez automatyczne podsumowywanie informacji znalezionych w archiwalnych postach na dany temat. Problem w tym, że sztuczna inteligencja wykazała się kompletnym brakiem zrozumienia kontekstu i ironii, traktując każdą znalezioną wypowiedź jako potencjalną, wiarygodną poradę.
Jak donosi serwis 404media, gdy jeden z użytkowników zapytał o sposoby radzenia sobie z przewlekłym bólem, chatbot AI Reddita wskazał na komentarz innego użytkownika, który brzmiał: „Heroina, jak na ironię, uratowała mi w takich przypadkach życie”. W innym przypadku bot zarekomendował substancję ziołową, która w wielu miejscach jest zakazana i powiązana z poważnymi problemami zdrowotnymi.
Sytuacja jest o tyle groźna, że Reddit testował chatbota bezpośrednio w aktywnych rozmowach. Jego niebezpieczne „porady” pojawiały się więc w miejscu, gdzie prawdziwe, często wrażliwe osoby, szukały prawdziwej pomocy. Co gorsza, moderatorzy poszczególnych społeczności (subredditów) zgłaszali, że początkowo nie mieli nawet możliwości wyłączenia tej funkcji.
Incydent ten w jaskrawy sposób obnaża największą słabość obecnej generacji wielu (wszystkich?) modeli AI. Bot nie „rozumie” co czyta. Jest jedynie zaawansowaną maszyną do wyszukiwania i powtarzania fragmentów tekstu napisanego przez ludzi. Nie potrafi odróżnić pomocnej wskazówki od sarkastycznego żartu, anegdoty czy skrajnie niebezpiecznej sugestii, a wszystko to prezentuje tonem obiektywnego faktu.
Po gwałtownej reakcji użytkowników i mediów, Reddit potwierdził, że wycofuje chatbota „Answers” ze wszystkich dyskusji o tematyce zdrowotnej. Przedstawiciele serwisu nie skomentowali jednak szerzej, czy zamierzają wprowadzić jakiekolwiek fundamentalne filtry bezpieczeństwa do samego modelu. Na razie wygląda to więc na załatanie problemu, a nie jego systemowe rozwiązanie.
Set: ciekawość, spokój, radość Setting: obwodnica na krańcu miasta, centrum miasta, dom znajomego, las i natura
Po smacznym i sytym obiedzie postanowiłem, że przekażę mojemu koledze jego 50 mg 4-HO-MET. Jako że proszek wyglądał apetycznie, czym prędzej zlizałem około 25 miligram tej zacnej substancji o godzinie 17, a resztę pieczołowicie spakowałem i uzbrojony w słuchawki oraz mp3 wyruszyłem w drogę.
Oczekiwałęm naprawdę zakręconej jazdy.
Siema dzisiaj opisze Wam mojego niezykłego tripa.
Na początek pewnie zadajecie pytanie JAK MOŻNA POMIESZAĆ
Deliriant ZE STYMULANTEM ?!?
Weekend za miastem, ośrodek w środku lasu, imprezka z nowo poznanymi ludźmi. Nastrój pozytywny, nakręcony odrobinę wcześniej spożytym alkoholem.
Po ponad dwuletniej nieobecności tutaj postanowiłam znów napisać raport. Przez ostatnie dwa lata moje nastawienie do substanicji psychodelicznych bardzo się zmieniło. Początkowa szczeniacka fascynacja przerodziła się w respekt, a ostatnie doświadczenie tylko utwierdziło mnie w szacunku do tych darów Natury.
specyfik: pół opakowania suszonych meksykańskich psylocybków
exp: powój, dxm, benzydamina, san pedro, salvia i inni.
miejsce i czas: Amsterdam, cały trip w okolicach Dam.
dramatis personae: ja, R., jego dziewczyna i jej siostra A.
