Reddit w pośpiechu wycofuje swojego nowego chatbota AI o nazwie „Answers” z dyskusji na tematy zdrowotne. Powód? Przeczytajcie.
Reddit w pośpiechu wycofuje swojego nowego chatbota AI o nazwie „Answers” z dyskusji na tematy zdrowotne. Powód? Przeczytajcie.
Otóż narzędzie, które w zamyśle twórców miało streszczać stare wątki, zaczęło polecać użytkownikom szukającym porady m.in. twarde narkotyki jako metodę leczenia przewlekłego bólu.
Nowa funkcja „Answers” (na szczęście nie działa po polsku, więc wielu z nas zostało uratowanych od „porad” tej AI) została zaprojektowana, by pomagać użytkownikom poprzez automatyczne podsumowywanie informacji znalezionych w archiwalnych postach na dany temat. Problem w tym, że sztuczna inteligencja wykazała się kompletnym brakiem zrozumienia kontekstu i ironii, traktując każdą znalezioną wypowiedź jako potencjalną, wiarygodną poradę.
Jak donosi serwis 404media, gdy jeden z użytkowników zapytał o sposoby radzenia sobie z przewlekłym bólem, chatbot AI Reddita wskazał na komentarz innego użytkownika, który brzmiał: „Heroina, jak na ironię, uratowała mi w takich przypadkach życie”. W innym przypadku bot zarekomendował substancję ziołową, która w wielu miejscach jest zakazana i powiązana z poważnymi problemami zdrowotnymi.
Sytuacja jest o tyle groźna, że Reddit testował chatbota bezpośrednio w aktywnych rozmowach. Jego niebezpieczne „porady” pojawiały się więc w miejscu, gdzie prawdziwe, często wrażliwe osoby, szukały prawdziwej pomocy. Co gorsza, moderatorzy poszczególnych społeczności (subredditów) zgłaszali, że początkowo nie mieli nawet możliwości wyłączenia tej funkcji.
Incydent ten w jaskrawy sposób obnaża największą słabość obecnej generacji wielu (wszystkich?) modeli AI. Bot nie „rozumie” co czyta. Jest jedynie zaawansowaną maszyną do wyszukiwania i powtarzania fragmentów tekstu napisanego przez ludzi. Nie potrafi odróżnić pomocnej wskazówki od sarkastycznego żartu, anegdoty czy skrajnie niebezpiecznej sugestii, a wszystko to prezentuje tonem obiektywnego faktu.
Po gwałtownej reakcji użytkowników i mediów, Reddit potwierdził, że wycofuje chatbota „Answers” ze wszystkich dyskusji o tematyce zdrowotnej. Przedstawiciele serwisu nie skomentowali jednak szerzej, czy zamierzają wprowadzić jakiekolwiek fundamentalne filtry bezpieczeństwa do samego modelu. Na razie wygląda to więc na załatanie problemu, a nie jego systemowe rozwiązanie.
Samotny wieczór w domu, miło i spokojnie
Po kilkunastu miesiącach przerwy postanowiłem odświeżyć znajomość z psychodelikami. W międzyczasie zażywałem rekreacyjnie raz w tygodniu dosyć niewinne substancje takie jak marihuana, MDMA, ketamina, 2C-B czy lekkie stymulanty, ale po pewnym czasie przestały mi one (jak i życie w ogóle) sprawiać radość. Trzeba więc było coś na to poradzić.
Ostatnimi czasy, dorwałem 3 ciekawe substancje, których reportów nie ma na
neuro_groove. Jest to Oxybutinin hcl
(Ditropan, Cystrin, Ditroopanum i jeszcze pewnie jakieś są), tolperisone hcl
(Mydocalm, pochodna lidokainy). Pierwsza działa rozkurczowo na mięśnie
gładkie pęcherza i przewodu pokarmowego, a druga rozluęnia napięcie mięśni
Codzienna depresja
Kilka słów wstępu
Jakiś czas temu dodałem raport opisujący moje delirium i podróże kosmiczne pod wpływem DXM. Raport niesamowity i niewiarygodny - jestem przekonany, że wielu czytających uważa, iż po prostu sobie to wszystko zmyśliłem. Również tym razem zabiorę Was na chore ścieżki mojego skrzywionego umysłu i mam nadzieję, że spodoba się Wam ta podróż.
Utrata świadomości oraz zapętlone retrospekcje.
Około godziny 19.30 załadowałem pierwszą dawkę DXM (225 mg). Razem z dziewczyną wybieraliśmy się na imprezę do znajomego. Około 20.30 poczułem typowe objawy po dexie. Już na imprezie (godzina 21.00) wziąłem drugą dawkę (150 mg) oraz po pół godzinie kolejne 150 mg.
Godzina 22.00 - czuję w sobie 525 mg dexa. Typowe objawy, zaburzenia świadomości i otoczenia, problemy z wymową wyrazów.
