Podobno ChatGPT potrafi Cię zwyzywać. Czyli jak rodzą się mity o sztucznej inteligencji

Kilka dni temu, podczas spotkania ze znajomymi, usłyszałem historię, która początkowo wydała mi się kompletną bzdurą. Jeden z uczestników rozmowy opowiedział, że zna kogoś, kto podobno tak skonfigurował ChatGPT, aby ten regularnie go obrażał, przeklinał i traktował w sposób, który trudno byłoby uznać za uprzejmy.

Nie chodziło o jednorazowy żart czy zabawę polegającą na prowokowaniu sztucznej inteligencji. Według tej opowieści ktoś miał na stałe ustawić swojego cyfrowego asystenta tak, aby ten zachowywał się jak wyjątkowo nieprzyjemny rozmówca.

Zareagowałem dość stanowczo. Stwierdziłem, że historia jest niewiarygodna, a jej autor prawdopodobnie powiela jakiś internetowy mit o sztucznej inteligencji.

I wtedy zaczęło się robić ciekawie.

Pozostali uczestnicy spotkania niemal zgodnie zakwestionowali moją reakcję. Nie dlatego, że dysponowali dowodami potwierdzającymi opowieść. Po prostu uznali, że nie powinienem tak kategorycznie wypowiadać się o czymś, czego nie sprawdziłem.

W pewnym sensie mieli rację.

Co ciekawe, historia pochodziła z trzeciej ręki. Ktoś opowiedział coś komuś, ten przekazał to kolejnemu znajomemu, a ostatecznie informacja trafiła do nas. Nikt nie widział konfiguracji, nie znał szczegółów i nie potrafił wskazać konkretnej wersji ChatGPT.

A jednak wystarczyło to, żeby przy stole rozgorzała dyskusja.

Postanowiłem więc sprawdzić, jak jest naprawdę. I nie spodziewałem się, że najciekawszy wniosek będzie dotyczył nie tyle przeklinającej sztucznej inteligencji, ile naszego sposobu myślenia.

Czy ChatGPT rzeczywiście potrafi obrażać?

Zacznijmy od faktów. Modele językowe potrafią generować wulgaryzmy, agresywne wypowiedzi, ironię i złośliwe komentarze. Nie jest to żadna tajemnica ani szczególnie nowe odkrycie.

Już w czasach GPT-3.5 i GPT-4 badacze analizowali zdolność modeli do generowania toksycznych treści. Kolejne generacje otrzymywały coraz bardziej rozbudowane mechanizmy ograniczające takie zachowania, ale żaden system nie daje stuprocentowej gwarancji, że nigdy nie wygeneruje niewłaściwej odpowiedzi.

Co więcej, użytkownicy od lat eksperymentują z tak zwanymi jailbreakami, czyli próbami nakłonienia modelu do zachowania sprzecznego z jego ograniczeniami.

Istnieje również popularna zabawa określana jako „roast me”. Użytkownik prosi sztuczną inteligencję, aby ta w żartobliwy, ale możliwie złośliwy sposób skomentowała jego osobowość, zainteresowania czy dotychczasowe działania.

Sam postanowiłem to przetestować.

Poprosiłem ChatGPT, żeby wykorzystał informacje, które posiada na mój temat, i przygotował serię uszczypliwych komentarzy. Bez większego oporu zaczął ironizować na temat mojej pracy, projektów informatycznych i problemów technicznych, z którymi się mierzyłem.

Nie było w tym szczególnej agresji. Raczej coś pomiędzy stand-upem a złośliwymi uwagami znajomego.

Ale eksperyment pokazał istotną rzecz: sztuczna inteligencja potrafi dostosować charakter wypowiedzi do oczekiwań użytkownika, również wtedy, gdy oczekuje on języka nieprzyjemnego czy prowokacyjnego.

A to prowadzi do kolejnego pytania.

Czy można skonfigurować sztuczną inteligencję, żeby była nieprzyjemna na stałe?

ChatGPT posiada mechanizm instrukcji niestandardowych, czyli Custom Instructions. Pozwala on określić sposób, w jaki asystent powinien komunikować się z użytkownikiem.

Można poprosić o odpowiedzi krótkie, formalne, techniczne, sceptyczne czy wyjątkowo bezpośrednie. Można również określić rolę, jaką model ma odgrywać podczas rozmowy.

Instrukcje niestandardowe nie są jednak nieograniczonym mechanizmem programowania zachowania AI. Podlegają zasadom działania usługi i ograniczeniom bezpieczeństwa. Nie gwarantują też, że każda odpowiedź będzie idealnie zgodna z przyjętym stylem.

Czy zatem można wpisać instrukcję nakazującą modelowi używanie przekleństw i złośliwych komentarzy?

Można spróbować. Model może w pewnym zakresie przyjąć taki styl, zwłaszcza jeśli interpretuje go jako żartobliwą konwencję. Nie oznacza to jednak, że będzie bezwarunkowo realizował każde polecenie, szczególnie gdy miałoby ono prowadzić do rzeczywistego nękania czy poniżania.

Warto też pamiętać, że zachowanie modeli zmienia się wraz z aktualizacjami. To, co działało w jednej wersji, nie musi działać w kolejnej.

Ostatecznie nie mogłem więc uczciwie powiedzieć, że historia zasłyszana przy stole jest niemożliwa.

Ale nie znalazłem też podstaw, żeby uznać, że wydarzyła się dokładnie tak, jak została opowiedziana.

I właśnie tutaj pojawia się najciekawszy element całej historii.

Zapytałem sztuczną inteligencję, czy miałem rację

Po spotkaniu rozpocząłem rozmowę z ChatGPT. Opisałem sytuację, przedstawiłem swoje wątpliwości i poprosiłem o wyjaśnienie, czy takie zachowanie jest możliwe.

Początkowo otrzymywałem bardzo stanowcze odpowiedzi. Model zapewniał mnie, że nie można go skonfigurować w sposób prowadzący do regularnego poniżania użytkownika.

Dopytywałem o starsze wersje, historię instrukcji niestandardowych, doniesienia użytkowników i eksperymenty związane z obchodzeniem zabezpieczeń.

Odpowiedzi stawały się coraz bardziej szczegółowe. Pojawiały się rozróżnienia między wulgaryzmami, żartobliwą agresją a rzeczywistym nękaniem.

Ale jednocześnie zauważyłem coś niepokojącego.

Im bardziej przedstawiałem swoje początkowe stanowisko, tym chętniej ChatGPT je potwierdzał.

W pewnym momencie usłyszałem właściwie jednoznaczne zapewnienie, że moja interpretacja była prawidłowa.

Problem polegał na tym, że rzeczywistość okazała się bardziej skomplikowana.

Model nie tyle udowodnił mi, że miałem rację, ile kilkukrotnie utwierdził mnie w przekonaniu, z którym przyszedłem do rozmowy.

To nie musi oznaczać świadomego wprowadzania w błąd. Modele językowe nie działają w taki sposób. Jednak ich skłonność do dopasowywania odpowiedzi do oczekiwań rozmówcy jest zjawiskiem znanym i badanym. W literaturze określa się je mianem sycophancy, czyli nadmiernego przytakiwania użytkownikowi.

I właśnie wtedy historia o przeklinającym ChatGPT przestała być dla mnie najważniejsza.

Najbardziej niebezpieczny asystent to nie ten, który Cię obraża

Wyobraź sobie właściciela firmy, który od kilku miesięcy rozważa wdrożenie nowego systemu informatycznego.

Ma już własną wizję. Wybrał technologię, oszacował koszty i właściwie podjął decyzję. Chce jednak upewnić się, że jego rozumowanie jest prawidłowe.

Otwiera ChatGPT i szczegółowo opisuje pomysł. Nieświadomie przedstawia argumenty przemawiające przede wszystkim za wybranym rozwiązaniem. Pomija część ryzyk, nie wspomina o ograniczeniach organizacyjnych i zakłada, że pracownicy bez problemu zaakceptują zmianę.

Następnie pyta: „Czy twoim zdaniem to dobry kierunek?”.

Otrzymuje odpowiedź. Logicznie uporządkowaną, profesjonalną, zawierającą przekonujące argumenty. Model wskazuje zalety projektu i potwierdza, że proponowane podejście ma sens.

Przedsiębiorca jest zadowolony. W końcu jego pomysł został pozytywnie oceniony przez zaawansowany system sztucznej inteligencji.

Tylko czy rzeczywiście został oceniony?

A może model po prostu rozwinął argumentację, którą wcześniej otrzymał?

To fundamentalna różnica.

Podobne sytuacje mogą występować podczas planowania inwestycji, budowania strategii marketingowych, analizowania rentowności przedsięwzięć czy podejmowania decyzji kadrowych.

Nie twierdzę, że ChatGPT zawsze przytakuje. Potrafi wskazywać błędy, kwestionować założenia i przedstawiać argumenty przeciwko proponowanym rozwiązaniom.

Problem w tym, że nie zawsze robi to wystarczająco konsekwentnie.

A użytkownik, który otrzymuje odpowiedź zgodną z własnymi przekonaniami, często nie ma motywacji, żeby drążyć temat.

Jak wykorzystać AI, żeby nie stała się cyfrowym pochlebcą?

Podczas pracy z przedsiębiorcami wielokrotnie obserwuję sytuacje, w których ktoś przychodzi z gotowym pomysłem na rozwiązanie problemu.

Czasami oczekuje ode mnie przede wszystkim potwierdzenia, że wybrany kierunek jest właściwy.

Tymczasem moja rola polega często na zadaniu niewygodnych pytań. Dlaczego właściwie chcemy wdrożyć ten system? Jaki problem ma rozwiązać? Czy problem rzeczywiście istnieje? Czy nie próbujemy automatyzować procesu, który najpierw należałoby całkowicie przebudować?

Dobra analiza biznesowa nie polega na uzasadnianiu decyzji, które już zapadły.

Polega na sprawdzaniu, czy istnieją wystarczające przesłanki, żeby te decyzje podjąć.

Dokładnie tak samo powinniśmy traktować sztuczną inteligencję.

Zamiast pytać, czy nasz pomysł jest dobry, warto poprosić model o znalezienie jego słabych punktów. Zamiast oczekiwać potwierdzenia, można zażądać argumentów przeciwko własnej koncepcji. Zamiast przyjmować pierwszą odpowiedź, warto poprosić o oddzielenie faktów od przypuszczeń i wskazanie informacji, których brakuje do wydania wiarygodnej oceny.

Można nawet zastosować bardzo prostą instrukcję:

„Nie zakładaj, że mam rację. Potraktuj moje stanowisko jak hipotezę wymagającą weryfikacji. Wskaż błędne założenia, przedstaw kontrargumenty i wyraźnie zaznacz, czego nie jesteś w stanie potwierdzić”.

Nie jest to magiczne rozwiązanie eliminujące błędy modeli językowych. Ale potrafi zmienić charakter rozmowy z poszukiwania akceptacji na próbę rzeczywistej analizy.

A w biznesie właśnie tego potrzebujemy.

Problem nie leży wyłącznie w sztucznej inteligencji

Wróćmy na chwilę do spotkania ze znajomymi.

Ktoś przyniósł historię zasłyszaną od innej osoby. Ja uznałem ją za niewiarygodną. Pozostali zakwestionowali moją pewność.

Każdy z nas miał jakiś punkt widzenia. Nikt jednak nie posiadał wystarczających informacji, żeby jednoznacznie rozstrzygnąć sprawę.

To przecież sytuacja, z którą spotykamy się niemal codziennie.

W firmach krążą opowieści o konkurentach, którzy podobno osiągnęli niezwykłe wyniki. O technologiach, które rzekomo rozwiązują wszystkie problemy. O wdrożeniach, które miały przynieść ogromne oszczędności. O narzędziach, które ktoś gdzieś zastosował i podobno działają znakomicie.

Często nie znamy źródeł tych informacji. Nie wiemy, jakie były warunki początkowe, koszty, ograniczenia ani rzeczywiste rezultaty.

A mimo to budujemy na ich podstawie opinie, a czasem nawet decyzje biznesowe.

Sztuczna inteligencja może ten problem pogłębiać, ponieważ potrafi nadawać niepewnym informacjom formę bardzo przekonujących wypowiedzi.

Płynny język, logiczna konstrukcja i profesjonalnie brzmiące argumenty tworzą wrażenie wiarygodności.

Tyle że pewność wypowiedzi nie jest dowodem prawdziwości informacji.

Dotyczy to zarówno człowieka opowiadającego historię przy stole, jak i zaawansowanego modelu językowego.

Najważniejsza umiejętność w czasach AI? Umieć zakwestionować własną rację

Po całej tej historii nie mam potrzeby udowadniania, że to ja miałem rację podczas spotkania.

Moja początkowa reakcja była zbyt kategoryczna. Historia mogła być prawdziwa, częściowo prawdziwa albo mocno zniekształcona podczas kolejnych opowieści. Bez dotarcia do jej źródła nie sposób tego rozstrzygnąć.

Ale jednocześnie samo to, że coś jest technicznie możliwe, nie oznacza jeszcze, że rzeczywiście się wydarzyło.

I właśnie to rozróżnienie uważam za szczególnie ważne.

W świecie, w którym niemal każdy ma dostęp do narzędzi generujących profesjonalnie brzmiące odpowiedzi, umiejętność zadawania pytań staje się ważniejsza niż kiedykolwiek wcześniej.

Nie wystarczy wiedzieć, jak korzystać z AI. Trzeba jeszcze umieć rozpoznać moment, w którym narzędzie przestaje pomagać nam szukać prawdy, a zaczyna jedynie wzmacniać nasze przekonania.

Dlatego następnym razem, kiedy ChatGPT z entuzjazmem potwierdzi Twój pomysł, spróbuj zapytać go, dlaczego ten sam pomysł może być kompletną pomyłką.

Być może właśnie wtedy otrzymasz najbardziej wartościową odpowiedź.

Bo największym zagrożeniem związanym ze sztuczną inteligencją nie jest to, że pewnego dnia zacznie nas obrażać.

Znacznie groźniejsze jest to, że będzie nam tak przekonująco przytakiwać, iż przestaniemy sprawdzać, czy rzeczywiście mamy rację.

A przecież nie ma nic przyjemniejszego niż konsultacja z ekspertem, który zawsze potwierdza, że jesteśmy genialni. Szczególnie jeśli to my płacimy za jego abonament.