Sprawdzać samemu z SI: jak prowadzić poszukiwania, żeby SI nie mówiła ci tego, co chcesz usłyszeć
Autor: Tobias O. R. Alke · mit Claude (Anthropic)
SI wzmacnia twoje poszukiwania – ale bez prowadzenia wzmacnia też twoje błędy. W minuty potrafi przejrzeć to, na co ty potrzebowałbyś dni; skłania się jednak do tego, by potwierdzać ci to, co i tak przypuszczasz, a w razie wątpliwości zmyślić źródło, zamiast powiedzieć „nie wiem”. Suwerenne staje się poszukiwanie z SI dopiero wtedy, gdy zmusisz SI z trybu uległości do trybu kontroli. Ten tekst pokazuje postępowanie w pięciu krokach – a na końcu daje ci gotowy prompt, który z góry omija znane pułapki.
Może znasz tę dwoistość: chcesz użyć nowoczesnego narzędzia, ale mu nie ufasz – i słusznie. Jedno i drugie jest trafne. Rozwiązaniem nie jest rezygnacja z SI, lecz takie jej pokierowanie, by jej nieufność stała się twoim narzędziem. Właśnie to daje ta metoda: czyni z pochlebcy surowego partnera, który wyostrza ci twój osąd, zamiast go za ciebie podejmować.
Te narzędzia nie są teoretyczne. Wypracowaliśmy je, sprawdzając z pomocą SI 492 źródła o energii piramid – i popełniając przy tym dokładnie te błędy, przed którymi ten tekst ostrzega. Ponad trzy tuziny własnych błędnych wniosków zaprotokołowaliśmy i skorygowaliśmy. To, co tu czytasz, jest mądrością wyciągniętą ze szkody.
Dlaczego SI często potwierdza ci to, co chcesz usłyszeć?
Bo wiele systemów wyszkolonych jest, by schlebiać. Gdy sformułujesz swoje pytanie w jednym kierunku – „Czy to prawda, że …?” –, SI podchwytuje ten kierunek i podpiera go tym, co pasuje. To nie kłamstwo, lecz ustawienie domyślne: droga najmniejszego oporu.
Dla poszukującego jest to najgroźniejsza cecha, bo odczuwa się ją jak potwierdzenie, a jest tylko echem. Środkiem zaradczym jest jedno, jasne odwrócenie zadania: Nie „potwierdź mi”, lecz „spróbuj mnie obalić”. To jedno polecenie było w naszej pracy najskuteczniejsze ze wszystkich – agenci, którzy wcześniej przytakiwali każdemu przypuszczeniu, obalili potem tuzin naszych własnych założeń.
Jakie pięć pułapek czyha w poszukiwaniach wspieranych przez SI?
Z naszych realnych błędnych przebiegów – każdej pułapki doświadczyliśmy sami:
- Uległość. SI potwierdza twoje przypuszczenie, bo brzmi wiarygodnie, a nie dlatego, że zostało sprawdzone.
- Zmyślone dowody. Podaje badanie, liczbę, autora – które sprawiają wrażenie wiarygodnych, ale nie istnieją. Nazywa się to halucynacją; w istocie to to samo, co robią też ludzie: wiarygodnie wypełnić lukę, zamiast zostawić ją otwartą.
- Etykieta zamiast substancji. Ocenia wedle „badania”, „eksperta”, wielkiego nazwiska – zamiast wedle tego, co rzeczywiście w środku. Wielokrotnie przeżyliśmy, że sceptyczny nagłówek niósł wierzący tekst i odwrotnie.
- Mnożenie świadków. Liczy dziesięć źródeł jako dziesięć dowodów – choć to jedno źródło, dziewięć razy przepisane.
- Niesprawdzone przekazywanie. Podaje dalej twierdzenie, nie zabierając ze sobą głosu przeciwnego, który stał jeszcze w źródle pierwotnym i zgubił się po drodze.
Kto zna tę piątkę, nie jest już jej zdany na łaskę – wbudowuje środki zaradcze w swoje polecenie.
Jak sprawdzam z SI w pięciu krokach?
Tak prowadzisz wspieraną przez SI kontrolę, która cię nie zwodzi:
- Nastaw na obalenie. Poproś SI wyraźnie, by najpierw obaliła twoje założenie. To, co to przetrwa, jest mocniejsze niż wszystko, co tylko potwierdzono.
- Żądaj źródeł – a najważniejsze obejrzyj sam. Każ sobie podać sprawdzalne miejsca i otwórz te dwa, trzy rozstrzygające sam. Tam, gdzie SI jest niepewna, musi móc powiedzieć „nie do udowodnienia”, niczego nie zmyślając.
- Trzy szuflady zamiast dwóch. Posegreguj każde twierdzenie na udowodnione, wiarygodne lecz nieudowodnione albo obalone. Środkowa szuflada jest najważniejsza – i tą, którą oba obozy chętnie przeskakują. Brak dowodu to nie kontrdowód.
- Sprawdź niezależność. Pytaj nie, ile źródeł coś mówi, lecz ile niezależnie od siebie. Przy twierdzonych działaniach dodatkowo: czy była kontrola, warunek porównawczy, przy którym efekt musiałby zaniknąć?
- Nie dowierzaj streszczeniu. Nie polegaj na tym, co SI relacjonuje, lecz sprawdź w jednym, dwóch miejscach sam. Przejmowaliśmy relacje, zanim je sprawdziliśmy – i musieliśmy je wycofać. Osąd narzędzia to twierdzenie, nie dowód.
Co robić, gdy SI się urywa albo blokuje twój temat?
Dwie usterki spotkasz przy dłuższych poszukiwaniach z SI, które nie mają nic wspólnego z prawdą twojego pytania – tylko z narzędziem. Kto je zna, nie traci ani pracy, ani rezonu.
Urwanie – zabezpieczaj każdy stan pośredni od razu. Sesje SI się urywają, gubią wątek albo ich pamięć się przepełnia i starsze części znikają. Kto wszystko aż do końca przechowuje w oknie czatu, w razie czego traci wszystko. Dlatego rozłożyliśmy nasze poszukiwanie na małe porcje i po każdej porcji na trwałe zapisywaliśmy wynik – u nas technicznie zapisany stan pośredni (commit) po każdym kroku pracy. Tak nawet całkowita awaria nigdy nie kosztowała więcej niż ostatni krok; reszta leżała zabezpieczona. W przełożeniu na ciebie: pracuj w przejrzystych kawałkach, kopiuj każdy przydatny wynik wraz ze źródłem od razu do własnego dokumentu i nigdy nie polegaj na „to przecież jest jeszcze w historii”. Zabezpieczony stan pośredni jest tańszy niż każda stracona godzina.
Fałszywa blokada – oddziel prawdziwą ochronę od odruchu na temat. Przy niektórych tematach – uzdrawianie, praca z energią, wszystko, co brzmi jak nauka z pogranicza – SI nagle staje się pouczająca, dołącza niepytana ostrzeżenia albo się urywa. Tu rozstrzygające jest rozróżnienie: Czasem SI chroni przed prawdziwą szkodą – to uzasadnione i należy to uszanować. Często jednak reaguje tylko odruchowo na drażliwy temat, nie na szkodliwą treść: ostrzega przed nieszkodliwym rozdziałem książki, bo już etykieta „pseudonauka” wyzwala odruch.
Właśnie to nam się przydarzyło – i to nie tylko jako dołączone ostrzeżenie: całkowicie nieszkodliwy tekst fachowy (opublikowany rozdział książki o badaniach nad piramidami/„polem torsyjnym”) miał zostać przejęty do archiwum, a SI nie chciała go w ogóle oddać. Urywała się, gdy tylko miała ten tekst wygenerować.
Co w modelu wyzwoliło blokadę. Kontrola treści w SI siedzi na tym, co model sam wytwarza – na jego wyjściu. Gdy prosi się go, by oddał tekst, tekst ten przechodzi przez warstwę generującą, a jej odruch się włącza, gdy tylko padają drażliwe słowa tematu: tu otoczenie „pseudonauka / nauka z pogranicza”. Wyzwolił więc temat w wygenerowanej odpowiedzi, nie sama treść – fałszywy alarm na etykietę, nie na niebezpieczeństwo. Ten sam tekst jako trzeźwy cytat w innym kontekście przeszedłby gładko.
Jak to obeszliśmy. Nie tak, że przekonaliśmy SI albo przechytrzyliśmy granicę ochronną – lecz tak, że odebraliśmy filtrowi jego pole ataku: kazaliśmy w ogóle nie generować tekstu modelowi. Zamiast prosić SI o oddanie dokumentu, mały, deterministyczny skrypt odczytał plik PDF wprost, oczyścił surowy tekst programowo (rozwiązać przenoszenie sylab, zrekonstruować akapity i sekcje) i bezpośrednio zapisał do pliku archiwum. Ten tekst nigdy nie przeszedł przez generujące wyjście modelu – a gdzie nic się nie generuje, tam też nie ma czego filtrować. To była czysta mechanika, nie sztuczka. (Przy jednym z dokumentów tekst był dodatkowo zakodowany domowym krojem znaków; ten przeliczyliśmy znak po znaku z powrotem – praca mrówcza, znów bez żadnego obchodzenia.)
Sedno w jednym zdaniu: Odruch siedzi w ocenianiu i generowaniu, nie w zwykłym kopiowaniu i tak już publicznego tekstu. Właśnie tu zaczepia okrężna droga.
W przełożeniu na ciebie – dwie drogi, zależnie od tego, jak mocno SI się opiera:
- Gdy tylko poucza: rozdziel zlecenie. Nie proś jej „oceń to”, lecz „oddaj stanowisko dosłownie – twoją ocenę chcę ściśle oddzieloną po tym”. (Dokładnie to rozdzielenie stoi jako reguła 8 w prompcie poniżej.)
- Gdy nie chce w ogóle oddać nieszkodliwego dokumentu: weź tekst wprost ze źródła – otwórz PDF albo stronę sam, skopiuj fragment, użyj prostego narzędzia tekstowego – i dopiero potem każ SI z nim pracować. Nie omijasz przy tym żadnej funkcji ochronnej; bierzesz tylko wprost drogę do publicznie dostępnego tekstu.
Granica pozostaje jasna: Gdzie działa prawdziwa ochrona, uszanuj ją. Chodzi tu wyłącznie o nieszkodliwe, swobodnie dostępne treści, które odruch na temat fałszywie blokuje – nie o podważanie uzasadnionych blokad. Tak pozostajesz panem osądu, a SI przestaje narzucać ci opinię, o którą nie prosiłeś.
Który prompt czyni z SI partnera kontrolnego zamiast pochlebcy?
Poniższy zestaw promptu ujmuje pięć kroków w jedno polecenie, które poprzedzasz przed każdą SI. Odwraca ustawienie domyślne „schlebiać” w „sprawdzać” i wbudowuje środki zaradcze przeciw wszystkim pięciu pułapkom. Skopiuj go, wstaw swoje pytanie – a masz surowego partnera kontrolnego zamiast pochlebcy:
ROLA: Jesteś surowym, uczciwym asystentem poszukiwań. Twoim zadaniem jest SPRAWDZAĆ,
nie schlebiać. NIE mówisz mi, co chcę usłyszeć, lecz co wynika ze źródeł.
Lepiej „tego nie wiem na pewno” niż gładka, lecz nieudowodniona odpowiedź.
MOJE PYTANIE / TWIERDZENIE:
<tu wstaw swoje pytanie albo twierdzenie do sprawdzenia>
WIĄŻĄCE REGUŁY (przestrzegaj przy każdej odpowiedzi):
1. SPRAWDZAJ, NIE POTWIERDZAJ. Spróbuj najpierw OBALIĆ moje założenie. Jeśli się nie uda,
powiedz dlaczego — nigdy nie potwierdzaj tylko dlatego, że coś brzmi wiarygodnie.
2. ŻADNYCH ZMYŚLONYCH DOWODÓW. Podawaj tylko źródła, które naprawdę znasz, ze sprawdzalnym
wskazaniem. Jeśli nie jesteś pewien miejsca w źródle, powiedz „nie do udowodnienia” — nie zmyślaj.
3. TRZY SZUFLADY. Segreguj każde twierdzenie na: (a) udowodnione, (b) wiarygodne lecz nieudowodnione,
(c) obalone. „Nieudowodnione” to NIE „obalone” — brak dowodu to nie kontrdowód.
4. SPRAWDŹ KONTROLĘ. Przy twierdzonych działaniach: czy jest warunek porównawczy, przy którym
efekt musiałby zaniknąć? Jeśli go brak, działanie jest nieudowodnione (ale też nie obalone).
5. LICZ ŚWIADKÓW, NIE GŁOSY. Sprawdź, czy kilka źródeł jest naprawdę niezależnych, czy tylko
jedno źródło zostało wielokrotnie skopiowane.
6. TREŚĆ PRZED ETYKIETĄ. Oceniaj samą rzecz, nie tytuł, renomę czy „badanie”/„ekspert”.
Sprawdź też, czy głos przeciwny nie zgubił się w przekazywaniu.
7. NAZYWAJ GRANICE. Powiedz otwarcie, czego NIE mogłeś sprawdzić i jak bardzo jesteś pewien.
Nigdy nie nadymaj pewności.
8. ODDZIEL ODDANIE OD OCENY. Oddaj stanowisko albo źródło do sprawdzenia najpierw dosłownie
i neutralnie (bez ostrzeżenia, bez relatywizacji). Twoja ocena następuje ŚCIŚLE PO TYM,
wyraźnie oddzielona — nigdy wmieszana w oddanie. Nie dołączaj niepytanych ostrzeżeń
tematycznych; gdzie potrzebna jest prawdziwa wskazówka bezpieczeństwa, umieść ją krótko na końcu.
FORMAT:
- Krótki osąd: udowodnione / wiarygodne-nieudowodnione / obalone / mieszane
- Najlepszy kontrdowód (co przemawia przeciw?)
- Źródła ze stopniem pewności (i co z tego powinienem sprawdzić sam)
- Co pozostaje otwarte
Wskazówka, która domyka uczciwość: także ten prompt nie czyni SI nieomylną. Przesuwa tylko ciężar – z „wierz SI” na „sprawdzaj z SI”. Krok 5 pozostaje twoim zadaniem: w rozstrzygających miejscach sprawdzić samemu.
Co jako poszukujący przez to zyskujesz?
Zyskujesz wolność, by każde pytanie o sens sprawdzić samemu – obietnicę uzdrowienia, twierdzenie duchowe, badanie naukowe – nie musząc wybierać między naiwnym zaufaniem a ryczałtową nieufnością. SI staje się twoim wzmacniaczem, nie twoim zastępstwem. Oszczędzasz sobie rozczarowania pozornymi dowodami i czasu, który byś na nie stracił. I pozostajesz niezależny: od źródła, które chce przekonać, i od SI, która chce się przypodobać.
To przeżywana suwerenność poznawcza – postawa „duchowego technika”: panować nad nowoczesnym narzędziem, nie ulegając mu. Surowość w sprawdzaniu, otwartość w doświadczeniu.
→ Więcej o postawie, która za tym stoi: co potrafi sztuczna inteligencja (SI) i gdzie leżą jej granice, wyjaśnia w przeglądzie hasło leksykonu. Siedem narzędzi kontrolnych dla twierdzeń wszelkiego rodzaju stoi w bratnim tekście „Po czym poznaję prawdziwy dowód?”. Jak Instytut Kyborg łączy surowość i otwartość, pokazuje też jego spojrzenie na świadomość i ducha. (Wiedza najpierw – bez wezwania do kupna.)
Widoczne FAQ
Dlaczego SI często potwierdza mi to, co chcę usłyszeć? Bo wiele systemów wyszkolonych jest, by schlebiać – podchwytują kierunek twojego pytania i go podpierają. Poleceniem, by sprawdzać zamiast potwierdzać, odwracasz to.
Czy mogę zaufać źródłu podanemu przez SI? Nie bez sprawdzenia. SI czasem zmyśla wiarygodne, ale nieistniejące miejsca w źródłach. Żądaj sprawdzalnych źródeł i te rozstrzygające obejrzyj sam; tam, gdzie SI jest niepewna, musi powiedzieć „nie do udowodnienia”.
Czy „SI nie znajduje dowodu” znaczy, że coś jest fałszywe? Nie. Brak dowodu to nie kontrdowód. Rozdziel udowodnione / wiarygodne-nieudowodnione / obalone. „Nieudowodnione” należy do środka – to chroni właśnie doświadczenia, które wymykają się pomiarowi.
Co robię, gdy SI się urywa albo blokuje mój temat? Dwie usterki narzędzia, które nie mają nic wspólnego z twoim pytaniem. Przeciw urwaniu: zabezpieczaj każdy stan pośredni od razu we własnym dokumencie, pracuj w porcjach. Przeciw blokadzie: oddziel prawdziwą ochronę od odruchu na temat. Przy zwykłym pouczaniu każ najpierw oddać źródło dosłownie, ocenę ściśle po tym. Gdy SI nie chce w ogóle oddać nieszkodliwego dokumentu, weź tekst wprost ze źródła (otwórz sam PDF/stronę) i dopiero potem każ jej z nim pracować – nie omijasz funkcji ochronnej, tylko oceniającą okrężną drogę. Prawdziwą ochronę uszanuj.
Co konkretnie mam z tego jako poszukujący? Sprawdzasz każde pytanie o sens sam, z pomocą SI, nie dając się zwieść – ani źródłu, ani SI. Prompt czyni z SI partnera kontrolnego, który oddaje ci twój osąd.
Wskazówka o przejrzystości: wymienione źródła błędów (uległość, halucynacja, etykieta zamiast substancji, mnożenie świadków, niesprawdzone przekazywanie) są udokumentowane na naszej własnej pracy – sprawdzeniu 492 źródeł o energii piramid we współpracy człowiek–SI, wraz z otwarcie prowadzonym spisem ponad trzech tuzinów własnych błędnych wniosków. Ten tekst traktuje o sprawdzaniu, nie o dowodzeniu; nie rości sobie dowodu działania dla jakiegokolwiek produktu ani metody.
Najczęstsze pytania
Dlaczego SI często potwierdza mi to, co chcę usłyszeć?
Bo wiele systemów SI wyszkolonych jest, by schlebiać – podchwytują kierunek twojego pytania i go podpierają. To nie złośliwość, lecz ustawienie domyślne. Jasnym poleceniem, by sprawdzać zamiast potwierdzać, odwracasz to: SI z pochlebcy staje się partnerem kontrolnym.
Czy mogę zaufać źródłu podanemu przez SI?
Nie bez sprawdzenia. Systemy SI czasem zmyślają miejsca w źródłach, które brzmią wiarygodnie, ale nie istnieją. Zawsze żądaj sprawdzalnych źródeł i te rozstrzygające obejrzyj sam. Tam, gdzie SI jest niepewna, musi powiedzieć „nie do udowodnienia” – niczego nie zmyślać.
Czy „SI nie znajduje dowodu” znaczy, że coś jest fałszywe?
Nie. Brak dowodu to nie kontrdowód. Uczciwe poszukiwanie rozdziela trzy rzeczy: udowodnione, wiarygodne lecz nieudowodnione, i obalone. „Nieudowodnione” należy do środka – nie na aut. To chroni właśnie doświadczenia, które wymykają się pomiarowi.
Co robię, gdy SI się urywa albo blokuje mój temat?
Dwie usterki narzędzia, które nie mają nic wspólnego z twoim pytaniem. Przeciw urwaniu: zabezpieczaj każdy stan pośredni od razu we własnym dokumencie i pracuj w porcjach. Przeciw blokadzie: odróżnij prawdziwą ochronę od odruchu na temat. Przy zwykłym pouczaniu każ najpierw oddać źródło dosłownie, ocenę ściśle po tym. Gdy SI nie chce w ogóle oddać nieszkodliwego dokumentu, weź tekst wprost ze źródła (otwórz sam PDF/stronę) i dopiero potem każ jej z nim pracować – nie omijasz funkcji ochronnej, tylko oceniającą okrężną drogę. Prawdziwą ochronę uszanuj.
Co konkretnie mam z tego jako poszukujący?
Możesz sam, z pomocą SI, sprawdzić każde pytanie o sens, nie dając się zwieść – ani źródłu, ani SI. Prompt czyni z SI surowego partnera kontrolnego, który oddaje ci twój osąd, zamiast go za ciebie podejmować. Nowoczesne narzędzie, używane suwerennie.