Czy jest za późno, żeby przeprosić?
🤖 Dlaczego uosabianie AI jest niebezpieczne
Zakaz obrażania robotów
W regulaminie świadczenia usługi Anthropic (firma matka Claude’a) pojawił się bardzo ciekawy wpis.
Dotyczy on zakazu obrażania ich AI. Tak, poważnie. Jeśli korzystasz z tego LLM-a i rozkażesz mu wulgarnie, żeby pracował szybciej albo skarcisz za głupie odpowiedzi – to oficjalnie łamiesz regulamin platformy.
Większość zareagowała na tę wiadomość memami o buncie robotów, ale mnie zastanawia, co zmotywowało tę zmianę w regulaminie.
Czy Anthropic wierzy, że ich chatbot jest „świadomy”? Czy po prostu duża ilość przekleństw stanowi kiepskie dane treningowe dla modelu?
Ten drugi scenariusz jest prosty. AI jest stale trenowane na konwersacjach użytkowników. Jeśli wzorem do naśladowania stają się wulgaryzmy i frustracja – to model może zacząć to naśladować, traktując to jako oczekiwaną formę komunikacji.
Jednak jeśli powodem był scenariusz pierwszy, to już mnie trochę martwi. Nie dlatego, że boję się świadomego AI, tylko dlatego, że uosabianie chatbotów jest niebezpieczne.
Może słyszeliście już o przypadkach, w których AI pomagało ludziom popełnić samobójstwo. Albo o tzw. AI psychosis – zjawisko, w którym sykofancja AI (czyli bezkrytyczne przytakiwanie i schlebianie użytkownikowi) doprowadzała niektóre osoby do utraty kontaktu z rzeczywistością (np. adwokat z Teksasu, którego AI przekonało, że jest oświeconym mesjaszem ludzkości).
Łatwo to spisać jako skrajny przypadek (przecież nam by się nigdy coś takiego nie przytrafiło, prawda?)
Tylko czy nie brzmi to trochę jak „ja przecież nigdy nie uzależniłbym się od metamfetaminy?”. I czy nie jest to coś, co mówiła każda osoba, która uzależniła się od metamfetaminy?
Wpływ interakcji ze sztuczną inteligencją na ludzką psychikę to nieznany teren, ale powoli pojawia się coraz więcej badań i teorii na ten temat. Zachęcam wszystkich do własnej eksploracji tematu i pamiętajmy – nie jesteśmy wyjątkowi. Podejście typu „mi nigdy by się coś takiego nie przydarzyło” to forma pychy, która często czyni nas właśnie najbardziej podatnymi na zagrożenia.
Dlatego, że ich się nie spodziewamy.
~ Łukasz Skoneczny,
redakcja@wygaszaczekranu.pl
KĄCIK KSIĄŻKOWY
Krótki segment o tym, co aktualnie czytam. Może znajdziesz tu fajną książkę lub motywację, żeby czytać trochę więcej.
Niedawno skończyłem czytać The Journey to the West (znane również pod tytułem Monkey). Jest to klasyczna chińska powieść oparta na autentycznej historii podróży buddyjskiego mnicha Xuanzanga.
Samo opowiadanie jednak ma niewiele wspólnego z prawdziwą historią. Monkey ma charakter fantastyczno-przygodowy. Pojawiają się tam bogowie, duchy, legendarne postacie i – przede wszystkim – Sun Wukong. Jest to małpi król o nadprzyrodzonych mocach i słynna postać, która zainspirowała ogromną ilość współczesnej popkultury (był np. główną inspiracją dla postaci Goku z Dragonballa).
Bardzo polecam, a teraz zabieram się dalej za Mit Syzyfa Alberta Camus (obecnie strona 101/138).
WYGAŚ KOMUŚ EKRAN
Podobała Ci się dzisiejsza edycja? Jeśli tak, to może spodoba się też Twoim znajomym. Daj im znać, przesyłając dalej ten e-mail, lub przy użyciu przycisku poniżej.





Dobrze, że poruszasz ten temat. Największe zagrożenia często pojawiają się wtedy, gdy zbyt mocno ufamy narzędziu i przestajemy dostrzegać jego ograniczenia.
Zapomniałeś o trzeciej, wg mnie najbardziej prawdopodonej opcji - działanie marketingowe.