Dlaczego filolog rozbraja AI skuteczniej niż programista, czyli narzędzia krytycznoliterackie kontra halucynacje LLM

 

Moi drodzy. Jak zapewne wiecie, pracuję w międzynarodowej firmie, w której panuje przekonanie, że jeśli potrafisz korzystać ze sztucznej inteligencji i sztuczna inteligencja przyspiesza Twoją pracę i poprawia produktywność, to masz z niej korzystać. Firma systematycznie szkoli też swoich pracowników, jak produktywnie i użytecznie wykorzystywać sztuczną inteligencję na co dzień.

Tak się składa, że pierwszy komputer moi rodzice zdecydowali się zakupić dopiero kiedy skończyłam 22 lata. Oczywiście miałam z nim wcześniej do czynienia w szkole średniej i nawet miałam egzamin zawodowy z komputeryzacji prac biurowych. Zdałam go tylko i wyłącznie dlatego, że moje sąsiadki umożliwiły mi skorzystanie ze swojego komputera, za co do dziś jestem im wdzięczna. 

Po prostu moi rodzice uznali, że komputer to jeszcze większy złodziej czasu, który przecież mogłabym przeznaczyć na sprzątanie (do dziś na myśl o sprzątaniu robi mi się niedobrze i muszę naprawdę długo przygotowywać się psychicznie żeby sobotnie przedpołudnie, nie zamieniło się w niedzielny wieczór), niż telewizja.

No więc wyobraźcie sobie, że ponad dwadzieścia lat później, pracuję w firmie, która zmusza swoich pracowników do korzystania ze sztucznej inteligencji. Mnie, wykształconą humanistkę.

Ale przejdźmy do rzeczy. Na szkoleniach tych jak mantrę przekazuje się nam informację o tym że dużym modelom językowym (large language models - LLM), nie można do końca ufać, gdyż będąc trenowane na ogromnych tekstach, nie generują odpowiedzi na pytania, które zadajemy, tylko przewidują słowa, których powinny użyć w reakcji na określone słowa. Prowadzi to często do tak zwanych halucynacji, w których duże modele językowe zamiast odpowiadać na pytanie "zgadują" jakiej odpowiedzi powinny użyć. Nie wiem jak wam, ale mi to bardzo przypomina odpytywanie przez nauczyciela w szkołach w latach dziewięćdziesiątych (nie wiem czy to nadal tak funkcjonuje), kiedy jeśli nie znałaś konkretnej odpowiedzi na pytanie, próbowałaś zgadnąć jakiej odpowiedzi oczekuje nauczyciel i używałaś siły wyobraźni. Czasami się to udawało, a czasami nie.

Jednak z  mojego punktu widzenia osoby, która zawodowo łączy perspektywę humanisty z twardą rzeczywistością korporacyjną, problem ten wygląda zupełnie inaczej.

Skoro sztuczna inteligencja nie ma dostępu do obiektywnego świata empirycznego, a operuje wyłącznie na dyskursie, to fałsz wygenerowany przez LLM nie jest błędem obliczeniowym, tylko błędem kompozycyjnym.

Dlatego więc tradycyjne, humanistyczne narzędzia krytyki literackiej – od dekonstrukcji po analizę ramy pojęciowej – okazują się najskuteczniejszym narzędziem do wyłapywania halucynacji, półprawd i erystyki w wykonaniu dużych modeli językowych.

Zrozumienie, czym w swojej istocie jest duży model językowy, wymaga odrzucenia techno-entuzjastycznego punktu widzenia. LLM to gigantyczny, wysoce zaawansowany generator tekstowy. Jego celem nie jest przekazanie prawdy obiektywnej, ale zbudowanie wypowiedzi, która spełnia kryterium prawdopodobieństwa.

Kiedy model halucynuje, zachowuje się jak niedoświadczony pisarz, który dba o zachowanie gatunku (np. stylizuje wypowiedź na twardy raport, artykuł naukowy czy felieton) i używa autorytatywnego tonu, profesjonalnego słownictwa i spójników logicznych, by stworzyć iluzję konsekwencji. Pod spodem jednak serwuje zmyślone fakty, błędne przypisy czy nielogiczne wnioski.

Jeśli podchodzisz do AI jak inżynier, szukasz w kodzie czegoś, czego tam nie ma. Jeśli podchodzisz do niej jak filolog, natychmiast dostrzegasz, że forma przerosła treść, a autorytatywna stylizacja służy jedynie maskowaniu pustki semantycznej.

Halucynacja LLM rzadko pojawia się w próżni jako chamskie, wyizolowane kłamstwo. Najczęściej jest wpleciona w ciąg zdań, które mają brzmieć gładko i wiarygodnie. Jednak ponieważ algorytm składa słowa na podstawie prawdopodobieństwa statystycznego, w miejscu fałszu tkanka językowa zaczyna pękać.

I tu do gry wkracza dekonstrukcja, która ujawnia przesunięcia pojęciowe, gdzie model potrafi użyć tego samego pojęcia w akapicie pierwszym i trzecim w subtelnie różnych, wykluczających się znaczeniach, aby spiąć niepasujące do siebie fakty; pokazuje ukryte założenia - żeby uciągnąć fałszywą tezę, AI dyskretnie przemyca nieudowodnioną przesłankę jako pewnik, a także wychwytuje sztuczne binarne opozycje, gdyż LLM uwielbia upraszczać rzeczywistość, budując fałszywe symetrie, byle tylko zamknąć wywód w eleganckiej klamrze.

Filolog nie pyta AI: „Czy to prawda?” – bo wie, że odpowiedź dostanie z tego samego, niewiarygodnego źródła. Filolog rozbiera tekst na czynniki pierwsze i pyta: „Na jakim ukrytym założeniu trzyma się ta konstrukcja i w którym miejscu tekst zaczyna przeczyć samemu sobie?”.

Najgroźniejszą formą halucynacji w środowisku korporacyjnym czy publicznym nie jest zmyślenie daty czy nazwiska. Jest nią wprowadzenie fałszywej ramy pojęciowej.

LLM absorbuje z internetu gotowe klisze, metafory i narzuty ideologiczne. Gdy prosisz go o analizę jakiegoś problemu, model bardzo często bezrefleksyjnie przyjmuje dominującą narrację – wykluczając z pola widzenia kluczowe zmienne.

Zastosowanie teorii ramy Georga Lakoffa pozwala błyskawicznie sprawdzić jakich metafor pojęciowych użył model (np. czy zjawisko biznesowe opisuje jak „mechanizm”, czy jak „chorobę”), co narzucona przez model rama uwypukla, a co celowo lub bezwiednie zamazuje, a także jakie pytania zostały uniemożliwione przez sam sposób sformułowania odpowiedzi

Problem z powszechnym zachwytem nad AI polega na tym, że większość użytkowników cierpi na tzw. lenistwo poznawcze. Jeśli odpowiedź wygenerowana przez model jest ładnie sformatowana, ma podpunkty, pogrubienia i brzmi mądrze – przyjmują ją bez mrugnięcia oka.

Dlatego powtarzam to do znudzenia: LLM sam z siebie nie jest syntezatorem prawdy. Jest kalkulatorem pojęciowym.

Samo wklejenie do okna czatu hasła „zdekonstruuj mi ten tekst” da jedynie wygładzone, podręcznikowe wypracowanie. Żeby wyciągnąć z niego twardą, krytyczną analizę i zabić jej skłonność do zmyślania, potrzebny jest rygor analityczny operatora.

Narzędzia krytycznoliterackie – semiotyka, poetyka, dekonstrukcja czy lingwistyka krytyczna – to nie są bezużyteczne zabytki akademickie. W erze sztucznej inteligencji stały się najbardziej precyzyjnym systemem antywirusowym. Rozbrajają fałsz tam, gdzie powstaje: w strukturze języka.

Ironia losu polega więc na tym, że moi rodzice mieli trochę racji – komputer faktycznie może stać się genialnym „złodziejem czasu”, jeśli używamy go bezrefleksyjnie. Ale dziś, ponad dwadzieścia lat po moim spóźnionym debiucie technologicznym, to nie brak sprzętu jest ograniczeniem, lecz brak krytycznego myślenia.

Okazuje się, że humanistyczne wykształcenie, z którego w korporacjach przez lata potrafiono się cicho podśmiewać, staje się moją największą przewagą konkurencyjną. Algorytmy mogą generować miliony słów na sekundę, ale to ja decyduję, czy dam się nabrać na ich ładną kompozycję. Dlatego zanim w sobotni poranek zasiądę do psychologicznych przygotowań do sprzątania, wolę z czystym sumieniem zrobić to, w czym filologia nie ma sobie równych: posprzątać w języku.