[Strzelczyk]
Szczęść Boże, kłaniam się Państwu w kolejnym podcaście z cyklu Teologia z Katowic. Dzisiaj jesteśmy w składzie ksiądz profesor Jan Słomka.
Uniwersytet Śląski w Katowicach i z tegoż Uniwersytetu Grzegorz Strzelczyk mówiący te słowa. Kłaniam się.
Obiecaliśmy, że będziemy kontynuować temat encykliki Magnifica humanitas i realizujemy od razu tę obietnicę. Tak, tak.
[Słomka]
Po raz pierwszy tak twardo obiecaliśmy i trzymamy się tego, że to już było powiedziane wyraźnie.
[Strzelczyk]
No i trzeba kuć żelazo, póki gorące. Tak. I chciałbym, żebyśmy zaczęli od takiego wątku, który być może dla wielu był zaskakujący.
Nie zaskoczyło cię, że tak mało jest o sztucznej inteligencji w tym dokumencie?
[Słomka]
Ja już się tak przyzwyczaiłem do przeglądania tego dokumentu, że przyjąłem, że taka jest jego struktura. Medialnie również z powodu podtytułu sztuczna inteligencja wyszła na wierzch i ona zawsze jest w najróżniejszych komentarzach tym tematem, który dominuje. Zwłaszcza gdy komentują nie teologowie, to pierwsze dwa rozdziały po prostu są niezauważone.
Natomiast faktycznie to jest w podtytule, że w dobie sztucznej inteligencji to jest wskazane wprost jako rzeczy nowe naszego czasu, analogiczne do rzeczy nowych, które skłoniły Leona XIII do Rerum novarum.
[Strzelczyk]
Czyli bardziej mamy do czynienia chyba z pretekstem niż z rzeczywiście poświęceniem encykliki temu zagadnieniu.
[Słomka]
Pretekst to za słabe słowo.
[Strzelczyk]
Tak.
[Słomka]
Bo to są te rzeczy nowe, tylko powodem, punktem wyjścia, okazją do wyłożenia pewnej kompleksowej doktryny socjalnej Kościoła.
[Strzelczyk]
No bo wiesz, dlaczego powiedziałem, że być może to jest trochę pretekst czy okazja? No bo jednak zaraz po rozdziale o sztucznej inteligencji mamy dwa rozdziały, które dotykają ciut innych problemów. Czyli relacji prawdy i demokracji i kwestii wojny.
[Słomka]
Tak, zgadza się.
[Strzelczyk]
A to mam wrażenie w takim przekazie medialnym w ogóle znikło. To znaczy za tą górką sztucznej inteligencji już jakby nic dalej nie było.
[Słomka]
Tak, tak. Ona rzuciła cień na to. Metafora górki tu jest dobra.
Jak podchodzą, wszyscy widzą tę górkę, to co jest przed nią gdzieś znika i to co jest za nią też jest zacienione już. Wszyscy się koncentrują na tym jednym temacie, co ma swój powód albo nawet więcej swoich powodów.
[Strzelczyk]
Wiesz, to mnie przypominało trochę podejście na Babią Górę od strony Krowiarek. Nie wiem, czy kojarzysz to podejście. Tam jest tak, że już się wydaje, że jest szczyt, za chwilę się wchodzi i nagle się okazuje, że znowu trzeba pod górkę i tak ze trzy razy.
[Słomka]
To jest charakterystyczne, ale to na wielu podejściach.
[Strzelczyk]
Tak, ale pod Babią chyba to jest wyjątkowo wyraźne i też często jako, że tam podchodzą ludzie, którzy rzadko chodzą w góry, a potem mają dość dużą górę jednak do wejścia, to te lamenty tam słychać nieraz, jak się mija ludzi. To jest bardzo charakterystyczne. Więc druga górka, na którą po sztucznej inteligencji wchodzimy, to jest relacja prawdy i demokracji.
[Słomka]
To jest według mnie, być może my o tym wspomnieliśmy pod sam koniec pierwszej części i właściwie to zostawiliśmy zupełnie.
[Strzelczyk]
Ale to jest temat, który absolutnie moim zdaniem jest wart podkreślenia.
[Słomka]
Zdecydowanie i trzeba mu poświęcić bez pośpiechu stosowną ilość czasu.
[Strzelczyk]
Bo chyba dotąd w nauczaniu społecznym tego powiązania bezpośrednio, czyli mówienia o tym, że prawda jest jednym z koniecznych warunków dla demokracji, to tego nie mieliśmy.
[Słomka]
Wręcz przeciwnie. W takim dyskursie z XX wieku raczej Kościół w imię prawdy miał opory, miał taką rezerwę wobec demokracji. I z drugiej strony było to samo.
Apologeci demokracji, czyli bojownicy o demokrację, patrzyli na Kościół z tego samego powodu, jako strażnika prawdy, jako tego, który stoi na drodze demokracji. Czyli wzmacniam twoją tezę. To nie jest tylko brak zajęcia stanowiska, tylko ten brak jest po wcześniejszym przeciwnym stanowisku.
[Strzelczyk]
No nie, myślę, że tu przerysowujesz trochę. To znaczy, jeżeli popatrzymy na Jana Pawła, to tam już wyraźnie widać...
[Słomka]
Tak, ja mówię o pierwszej połowie XX wieku.
[Strzelczyk]
Okej, to tak. Bo sama wartość demokracji w momencie, kiedy przyszedł papież, który doświadczył niedemokratycznego ustroju, ewidentnie została podbita w nauczaniu kościelnym.
[Słomka]
Tak, i moja perspektywa była faktycznie perspektywą gdzieś końca XIX, początku przedsoborową. Wtedy Kościół, narodzące się demokracje, w ogóle narodzące się państwa świeckie, czyli demokratyczne, patrzyły bardzo podejrzliwie. No i przypomnijmy, jednym z punktów zapalnych na Soborze Watykańskim II była wolność sumienia.
[Strzelczyk]
Która jest podstawą z kolei do wolności wewnątrz demokratycznych ustrojów.
[Słomka]
Tak, tak.
[Strzelczyk]
Ale bardziej niż demokracja interesuje mnie prawda w tym wątku, bo jednak od strony teologicznej to ma doniosłe znaczenie.
[Słomka]
To ma bardzo duże znaczenie.
[Strzelczyk]
Czy zauważyłeś tam definicję prawdy?
[Słomka]
No nie, jasne, że nie. Żaden szanujący się teolog nie zdefiniuje prawdy.
[Strzelczyk]
Ale to wtedy czy my wiemy, o czym mówimy?
[Słomka]
Tu wszedłeś na temat, który jest dla mnie teologicznie bardzo ważny. Przed chwilą niby zażartowałem, ale ten żart dotyczy kwestii podstawowych pojęć teologicznych, które są ze swojej natury niedefiniowalne i z tego powodu są podatne na to, że nawet jak dwóch teologów rozmawia, używając tych samych pojęć, nie ma na wejściu pewności, że mówią dokładnie o tym samym.
[Strzelczyk]
Tu jeszcze jest chyba o tyle gorzej, że my nie mówimy o teologicznym pojęciu prawdy, tylko o pewnym uniwersalnym.
[Słomka]
Ja specjalnie zawęziłem do wewnątrzteologicznego dyskursu, gdy przejdziemy na pole uniwersalne, żeby pokazać, że to nie jest tak, że teolog wchodzi w to pole z gotowym, niezmiennym, będącym konsensusem wszystkich teologów pojęciem prawdy. Natomiast gdy już wychodzimy na pole społeczne, to jest to dokładnie, co ty mówisz.
[Strzelczyk]
Wydaje mi się, że to, co jest w encyklice spokojnie do zauważenia, to podejście od strony takiej minimalistycznej. To znaczy, że tak naprawdę nie chodzi nam o jakieś bardzo głębokie ujęcie prawdy jako fenomenu itd., a raczej o prawdziwość sądów i wypowiedzianych zdań.
[Słomka]
Tak, tylko Leon może sobie pozwolić na zatrzymanie się, tak jak mówisz, w tym tekście blisko pewnej powierzchni zrozumiałej i aspirującej do uzyskania pewnego intuicyjnego konsensusu wśród czytelników, tylko dlatego, że jako teolog i uczeń Franciszka ma to ustawione do głębi teologicznie. To wprost tutaj nie jest przywoływane, ale jest to ten niewidzialny fundament, który umożliwia Leonowi postawienie po prostu na wstępie tej tezy: prawda i demokracja.
[Strzelczyk]
Dlaczego prawda jest niezbędna dla demokracji?
[Słomka]
To nieco dalej jest ujęta zasada realności, że jeżeli rozmywa się prawda, to rozmywa się możliwość rozmowy, negocjowania, zajmowania stanowiska. Demokracja jest uczestnictwem władzy. Procedury głosowania i struktury obsługujące demokrację są niezbędne, ale silnikiem demokracji od strony ludzi jest to, że dostają możliwość uczestnictwa podejmowania decyzji, które wpływają na władzę.
A podejmowanie decyzji wymaga elementarnego rozeznania, a elementarne rozeznanie wymaga kontaktu z rzeczywistością, czyli prawdy. I pozwolę na dygresję, która nie odbiega daleko. Mianowicie na naszej poprzedniej rozmowie napomknąłem o symulakrach i wtedy zacząłem ten temat, który tutaj rozważamy, a teraz dygresja.
Otóż, gdy pojawił się Facebook, używam tego tak prosto, to pojawiła się metafora baniek informacyjnych, która doskonale opisała coś, co stało się i coś, co było traktowane jako duże zagrożenie, duży problem komunikacyjny. I ta metafora oczywiście do tej pory ma swoją wagę, ale według mnie w momencie pojawienia się algorytmów sztucznej inteligencji ta metafora stała się zupełnie niewystarczająca i myląca, bo to już nie mamy sytuacji wielu baniek, tylko sytuację... Właśnie tutaj mi to słowo symulakrum pasuje, tylko ono nie jest nośne, nie trzeba komentować.
Ale to jest symulacja swoistej waty, którą algorytmy sztucznej inteligencji tworzą między nami, ludźmi uczestniczącymi w obiegu informacji, a rzeczywistością, która właśnie na zasadzie symulakrów przestaje funkcjonować nawet jako idea. Czy zgadzasz się z tym, że metafora bańki przestaje być wystarczająca?
[Strzelczyk]
Wiesz co, ja myślę, że ona zachowa swoją użyteczność, bo nie zniknęły media społecznościowe w klasycznym rozumieniu, nawet jeżeli są bardziej zasilane algorytmami sztucznej inteligencji i jeszcze jest drugi moment, który może wytwarzać bańki, bo tego jeszcze nie wiemy, ale to się może zdarzyć, a mianowicie, że poszczególne LLM-y, czyli poszczególne duże modele językowe, będą same wytwarzać bańki, czyli każdy z modeli będzie bańkowy i to już widać np. w przypadku Groka, który wyraźnie przesuwa akcenty, powiedzmy, na prawo, a Gemini pilnuje raczej centro-lewicy itd., więc one same mogą być bańkowe w zależności od tego, który wykupisz ostatecznie, a koszty używania trzech czy czterech jednak przekonają ludzi, że trzeba się związać z jednym, to może znowu doprowadzić do bardzo podobnego mechanizmu.
[Słomka]
Tak, ja nie mówię, że to trzeba wyrzucić, tylko że ta jedna metafora przestała wystarczać do opisania tego, co dzieje się w przestrzeni komunikacyjnej.
[Strzelczyk]
To się bardziej jeszcze skomplikowało na pewno, jeżeli chodzi o sztuczną inteligencję.
[Słomka]
Teraz wracam do tego, nazwijmy to mgła, wata, to pośrednictwo, które coraz wyraźniej algorytmy sztucznej inteligencji tworzą między mną, człowiekiem, a informacjami, jest bardzo poważnym rozmywaniem prawdy, gdzie nawet rozróżnienie między prawdą a kłamstwem przestaje być możliwe.
[Strzelczyk]
Ja bym powiedział tak, że trudno aplikować klasyczne rozumienie prawdy do tego, co wyrzuca z siebie LLM, bo to by zakładało, używanie klasycznego rozumienia zakładałoby klasyczne myślenie wewnątrz LLM-u, a tam takiego klasycznego myślenia nie ma. Co więcej, nie ma intencjonalności, która się wiąże z prawdą.
[Słomka]
Tak, przypomnijmy, trzeba zakładać, że słuchają nas ludzie z różnymi formami przygotowania, klasyczną taką postarystotelesowską definicję prawdy, prawda po polsku już, prawda jest zgodnością rozumu z rzeczywistością.
[Strzelczyk]
Albo odpowiedniością zrozumienia do tego, co jest w rzeczywistości, bo to też można tak w tę stronę pociągnąć, a już najbardziej prosto, czyli w stronę takiego logicznego ujęcia, to jest zgodność zdania, to znaczy sensu zdania z rzeczywistością.
[Słomka]
To już jest w sądach, że wypowiadam zdanie, które jest zgodne ze stanem rzeczywistym.
[Strzelczyk]
U Tomasza to był intellectus, czyli to, co człowiek jest w stanie wytworzyć jako umysłową reprezentację rzeczywistości.
[Słomka]
Tak.
[Strzelczyk]
Najprościej mówiąc.
[Słomka]
Przy czym właśnie tutaj ta definicja jest bardzo przydatnym narzędziem. W ogóle nie wycofuję tego, że ona potrzebuje ze strony teologicznej pójścia w głąb, ale na użytek rozważania konieczności prawdy dla demokracji to jest bardzo dobre narzędzie.
[Strzelczyk]
Ja bym tu podkreślił jeden wątek, który wprost jest w encyklice i myślę, że warto go wybijać. I on jest właściwie podwójny, to znaczy po pierwsze Leon XIV zwraca uwagę, że prawda jest dobrem wspólnym. I to jest coś, co trzeba moim zdaniem podkreślać teraz bardzo mocno.
Bo wcześniej u początku encykliki była mowa o tym, że mamy pewne powszechne przeznaczenie dóbr, była tam ta zasada. A teraz mówimy tak, wśród tych dóbr, które mają powszechne zastosowanie, czyli wszyscy mają prawo do tego, jest prawda. Czyli my mamy prawo do prawdy.
I to jest moim zdaniem jako pewna zasada ogólna rzecz niezwykle istotna. No bo wśród praw człowieka w tej chwili nie mamy prawa do prawdy.
[Słomka]
Ponieważ nikt jeszcze kilkanaście lat temu nie był w stanie sobie wyobrazić, jak szybko i jak gruntownie większość z użytkowników obiegu informacyjnego będzie tego prawa pozbawiona. Bo wcześniej to było gdzieś tam, powiedzmy, w myśleniu, ale chodziło o edukację. O to, że ogromna część ludzi nie ma dostępu do edukacji.
A teraz mierzymy się z odbieraniem prawa do prawdy ludziom wyedukowanym, aktywnie korzystającym z mediów, które do niedawna były mediami komunikującymi, tworzącymi wspólnotę obiegu informacji z ciągle obecnym założeniem, że chodzi o jakąś prawdę.
[Strzelczyk]
I teraz, wiesz, myślę, że tam jest jeszcze jedno rozczarowanie, o którym trochę pośrednio też jest w encyklice, bo papież nieprzypadkiem upomina się o jakość edukacji w tym tekście. No bo co nam się stało? Przez ostatnie kilkadziesiąt lat my mamy wyraźny proces w niektórych krajach ideologizowania się edukacji, bo tak naprawdę poszczególne grupy ideologiczne tworzą swoje podsystemy edukacyjne.
W związku z tym edukacja przestaje mieć walor obiektywizującego podejścia do weryfikowania faktów i poszukiwania prawdy, a raczej staje się jednym z kanałów przekazu ideologii. Zresztą walki o podręczniki do historii i teraźniejszości w naszym kraju też to pokazują. Ale to jest wszędzie.
I to się dzieje wszędzie.
[Słomka]
Przy czym krótka wycieczka do starożytności, do pierwszych wieków chrześcijaństwa. Już wtedy wiedziano, że nie istnieje edukacja, która jest zupełnie neutralna. I co zrobił Julian Apostata?
On wiedział już, że cierpieniami, więzieniami, śmierciami chrześcijaństwa nie powstrzyma. Zakazał chrześcijanom być nauczycielami. Tak że ta świadomość, że edukacja jest formacją, i że jest formacją, która jest zbudowana na prawdzie, ale ta prawda jest ludzka, a nie taka neutralna, to jest odkąd istnieje w kulturze grecko-rzymsko-chrześcijańskiej szkoła.
Tak że to nie są nowe intuicje. I to nie są nowe wojny kulturowe.
[Strzelczyk]
Tak, aczkolwiek to, że to wszystko zostało wzmocnione przez społecznościówkę i tak dalej, sprawia, że mamy nową sytuację, to znaczy łatwiej jest zamknąć się w bańce i rozpowszechniać nieprawdę.
[Słomka]
Przywołam klasyka. Wygląda na to, że ilość przechodzi w jakość. Natomiast ja tu jeszcze wrócę do starożytności, bo warto po tym, co powiedzieliśmy, przypomnieć, że Kościół, wiedząc jaka jest ranga szkoły, przez pierwsze pięć wieków w ogóle nie odrzucił szkoły rzymskiej, nie tworzył własnych szkół, tylko uznał edukację klasyczną, pogańską.
Były dyskusje, słynny Tertulian nasz, ukochany, był przeciw, ale co do zasady Kościół przejął, wiedząc, że tu chodzi o prawdę, tę edukację klasyczną, a potem mnisi te księgi przepisywali i wchłonęli to, jak szkolnictwo średniowieczne chrześcijańskie, nigdy tego nie wyrzuciło.
[Strzelczyk]
Wracamy do drugiego wątku, bo oprócz prawa do prawdy jest coś, co mnie akurat bardzo poruszyło i bardzo się podoba, a mianowicie związek prawdy z zaufaniem, a potem zaufania z demokracją, bo to się przekłada na zaufanie społeczne. Nie da się budować społeczeństwa demokratycznego bez zaufania wzajemnego uczestników procesu społecznego, a tego zaufania nie będzie bez prawdy.
[Słomka]
Tak i tu bardzo przydaje się wątek, który w tej klasycznej definicji prawdy się nie pojawił. Na pewno jest założony milcząco wątek tego bardzo pierwotnego charakteru dialogicznego prawdy międzyludzkiego, że zaufanie nie jest późniejsze. Zaufanie rodzi się w prawdzie, i tu otwiera się ścieżka do tej dialogicznej idei prawdy, którą Franciszek wyjątkowo mocno w Lumen fidei przerobił.
Zaczyna się, i tu jesteśmy w środku wiary, prawda objawia się w miłości Boga do człowieka. I z tego wychodzi zaufanie, prawda, ale zawracamy do wymiaru społecznego, politycznego, w dobrym znaczeniu słowa polityka.
[Strzelczyk]
Dokładnie, to znaczy bez tego rodzaju zaufania, które się buduje na prawdzie albo przy okazji prawdy, nie ma szans na rozwijanie demokracji. Myślę, że to trzeba bardzo sobie w głowie ułożyć i to jest istotne. Mamy tu też wyzwanie do uniwersytetów i tu się czuję mocno wezwany, to przeczytam tak jak jest.
Na płaszczyźnie uniwersytetu zaś podjęcie wielkiego wyzwania integracji wiedzy, rozwijając zarówno zdolności łączenia i harmonizowania różnych dziedzin poznania w celu odczytywania złożoności rzeczywistości, jak i techniki służące weryfikacji faktów. Czyli my mamy to podwójne zadanie, to znaczy uczenia weryfikowania faktów, czyli dochodzenia do prawdy.
[Słomka]
To jest w tej chwili według mnie kluczowe zadanie edukacji na każdym poziomie, a na poziomie uniwersyteckim najbardziej, ponieważ informacje są dostępne w ogromnej ilości na kliknięcie. Natomiast rozeznanie się w tym wymaga tego, o czym mówisz. I to jest jedna z tych myśli, które Leon w Magnifica humanitas gdzieś, tutaj jest to skumulowane, ale to jest jeden z nerwów tej encykliki.
[Strzelczyk]
Natomiast nie wiem, czy zwróciliście uwagę na to, ale następuje taki drobny przeskok terminologiczny, bo kiedy dochodził do mówienia o tym Benedykt XVI, to mówił o interdyscyplinarności w podejściu.
[Słomka]
Tak.
[Strzelczyk]
Potem Franciszek używał wręcz transdyscyplinarność.
[Słomka]
Tak.
[Strzelczyk]
A tu mamy zwykły język, łączenie i harmonizowanie.
[Słomka]
Tak.
[Strzelczyk]
Paradoksalnie to jest bardziej precyzyjne.
[Słomka]
Ja myślę, że łączenie i harmonizowanie jest przełożeniem na zrozumiały język tego słowa transdyscyplinarność, które wprowadził Franciszek. Bo żeby łączyć i harmonizować, nie wystarczy być jednym z równorzędnych elementów struktury. Czyli interdyscyplinarność sama nie ma w sobie tego, co łączy, tego, co harmonizuje.
Przy czym oczywiście to słowo transdyscyplinarność od pierwszego użycia jest takie toporne, trudne w rozumieniu i czasem ktoś je powtarza, ale sprawia kłopoty.
[Strzelczyk]
Tak, słowo sprawia kłopoty, a co dopiero sama transdyscyplinarność. Praktyka jest jeszcze gorsza od słowa. Natomiast to łączenie i harmonizowanie, ono wyraźnie nam wraca od kilkudziesięciu już lat jako takie wołanie też Kościoła o to, żebyśmy zaczęli bardziej integralnie spoglądać na ludzką wiedzę.
Bo zdaje się, że to zapadanie się w nieprawdę albo dryfowanie ku nieprawdom różnym jest tym bardziej możliwe, im bardziej jesteśmy sfragmentowani, jeżeli chodzi o poznanie.
[Słomka]
Tak, przy czym w pełni się z tobą zgadzam i jednocześnie z tyłu głowy mam takie opory tych, którzy patrzyli i patrzą do tej pory na Kościół jako na hamulcowego rozwoju, że chce przez swoją prawdę położyć czapę i odebrać wolność. Te opory, myślę, że Leon też ma gdzieś to z tyłu głowy i pisze dlatego bardzo mocno, wyraźnie w przeciwnym kierunku.
[Strzelczyk]
Wiesz co, nawet nie z tyłu głowy, bo jeżeli spojrzymy na 138, czyli zaraz na następny numer, to tam się pojawia ten wątek, że Kościół miewa problemy z prawdą wewnętrznie i że czasami dziennikarze są tymi, którzy bardziej walczą o prawdę i tu już wiemy, do czego się papież odnosi.
[Słomka]
No tak, tu nie patrzy na to.
[Strzelczyk]
To znaczy do doświadczeń zwłaszcza związanych z aferami ukrywania przestępstw duchownych. I pada zdanie na końcu tego punktu. Czujność i transparentność są przede wszystkim poważną odpowiedzialnością samego Kościoła i nie wolno nam czekać, aż inni zmuszą nas do zmierzenia się z niewygodną prawdą o nas samych.
[Słomka]
Tak, to literalnie dotyczy kwestii ukrywania przestępstw przeciwko integralności cielesnej. A tu jest umieszczone w tym kontekście, że jest wezwaniem do nas, ludzi Kościoła pracujących w Uniwersytecie, abyśmy wiedzieli, że to jest nasza misja na swój użytek ciągle od nowa pogłębiać rozumienie prawdy takiej, która jest fundamentem zaufania, wolności i wnosić to w edukację uniwersytecką.
[Strzelczyk]
No i też wiesz, transparentność jawi się tutaj w kontekście całego wywodu jako jeden ze sposobów realizacji dochodzenia do prawdy. No tak. Czyli jeżeli my chcemy, żeby Kościół był wiarygodny ostatecznie, no bo tu kwestia zaufania społecznego jest z tym związana, to transparentność nie jest jakimś dodatkiem zewnętrznym, tylko jest jednym z elementów funkcjonalnych.
[Słomka]
I tu nie chodzi o wielkie refleksje teologiczne i dywagowanie o transparentności, tylko o praktykę.
[Strzelczyk]
Tylko o to, żeby wiedza o tym, co się dzieje, o różnych...
[Słomka]
Żebyśmy my jako Kościół praktykowali transparentność w tym, co jest ważne dla ludu Bożego i dla społeczności, w której żyjemy, w której jesteśmy.
[Strzelczyk]
Teraz mamy trzy wyzwania, jeżeli chodzi o edukację też, bo teraz idziemy w konsekwencje i właśnie w ten wymiar edukacyjny. No bo jeżeli mamy budować społeczeństwo demokratyczne oparte o prawdę, to edukacja jest kluczowa i mamy trzy wymiary. Społeczno-polityczny, pedagogiczny i intelektualno-mądrościowy.
Czyli mamy trzy wyzwania tak naprawdę. Pierwsze dotyczy zbudowania kontekstu dla takiej edukacji, w której rzeczywiście my się uczymy rozpoznawania prawdy i do niej dojrzewania. Po drugie mamy samą organizację szkoły i tu papież jest do bólu realistyczny.
Mówi tak, że my w tej chwili nie nadążamy kompletnie.
[Słomka]
Tak.
[Strzelczyk]
I to jest moim zdaniem też jedna z takich celniejszych diagnoz. To znaczy, że nam się stara dydaktyka wobec AI zwłaszcza trochę poddała.
[Słomka]
To różnie bywa. Ja nie mam takiego rozeznania na podstawie jakichś szerszych badań, wywiadów, ale świadomość tego, że algorytmy sztucznej inteligencji wymagają zmiany w podejściu dydaktycznym, według mnie jest. Przynajmniej na poziomie werbalnym.
[Strzelczyk]
Bo tu jest kilka takich punktów. Pierwsze to jest weryfikacja wiedzy. Klasyczne metody typu esej umarły właśnie, bo dobrze wygenerowany przez sztuczną inteligencję esej jest nierozróżnialny.
[Słomka]
Nawet jeżeli ja jako nauczyciel czytam świetny esej słabego ucznia i widzę, że to niemożliwe, to co ja z tym mogę zrobić?
[Strzelczyk]
Nie mamy narzędzi do tego, żeby to odróżnić w sposób formalny. Druga sprawa to jest sama mentalność. To znaczy coraz częściej słychać od młodych, że przecież ja nie muszę tego się uczyć na pamięć, bo ja tę wiedzę mam cały czas dostępną.
I to jest kłopot, bo to nie jest prawda. Nie da się wykonać rozumowania na wiedzy, której się nie ma w głowie.
[Słomka]
To jest coraz trudniejsze do uzmysłowienia młodszym pokoleniom, że wiedza szybko przeczytana z ekranu to nie jest wiedza, którą ma.
[Strzelczyk]
Dokładnie. Oczywiście, że to jest kwestia teraz nauczenia się i tak dalej, ale to jest moim zdaniem poważne wyzwanie.
[Słomka]
To jest znowu takie wspomnienie. W podstawówce istotną i uciążliwą częścią pracy było uczenie się wierszy na pamięć. To jest genialne.
Uczenie się na pamięć dobrych tekstów to jest podstawa dydaktyki i moje doświadczenie również z tekstami biblijnymi. Niektóre teksty, frazy, wersety nauczone prawie jak papuga po wielu latach wychodzą i pracują.
[Strzelczyk]
One w ogóle przez cały ten czas pracują.
[Słomka]
Tak, ale ja mówię o takim subiektywnym doświadczeniu, że błysk głębszego zrozumienia czy jakiegoś zrozumienia pojawia się dużo później. Mam wrażenie, że gdyby ich nie było przez te lata, to ten błysk by nie przyszedł.
[Strzelczyk]
I tu jest analogia wsteczna. Nasze rozumienie systemów sztucznej inteligencji trochę nam pomaga w zrozumieniu funkcjonowania naszego. To znaczy sztuczna inteligencja, jako że oparta jest na sieciach neuronowych, które z kolei trochę mają naśladować to, jak funkcjonuje ludzki mózg, to nam wstecznie mówi, że wszystko zależy od tego, na jakim materiale my wytrenujemy.
Czyli jeżeli my przepuszczamy przez ucznia teksty i on ma do czynienia ze streszczeniem, a nie z Mickiewiczem, to na wyjściu potem, wiele, wiele, wiele lat później, prompt w postaci spotkania z kulturą w nim nie wywoła tego dźwięku. Bo nie zaistniał.
[Słomka]
Tekst z poezji jest tekstem, który jest albo go nie ma. Streszczenie poezji nie ma nic wspólnego z poezją.
[Strzelczyk]
Dokładnie, ale to nam pokazuje wstecznie, paradoksalnie, że my teraz wiemy, jak ważne są dane, na których trenujemy.
[Słomka]
Tak, ja przyznam się, że za każdym razem w naszych rozmowach to wychodzi, a nie lubię tego myślenia o umyśle ludzkim wychodzącego od wiedzy neuronauk. Ale to „nie lubię” to nie jest coś, co wyklucza, tylko...
[Strzelczyk]
Natomiast wiesz, jeżeli mówimy o procesie uczenia się, no to wiedza o tym, jakie on potem ma przełożenie na rozumowanie, wyciąganie wniosków i tak dalej, jest kluczowa dla projektowania tego procesu i do rozkładania akcentów. Ja mam wrażenie, że w pewnym momencie to się zaczęło rozjeżdżać, to znaczy my mamy wiedzę w neuronaukach, która wyraźnie mówi o tym, że jakość danych dostarczanych do pamięci ma kluczowe znaczenie co do tego, co potem będziemy potrafić, czyli ilość także zapamiętanych rzeczy po prostu na pamięć, a system edukacji idzie swoją drogą, to znaczy uczymy się coraz mniej na pamięć i tak dalej, jakby w ogóle nie widział tych danych i to jest moment tego wezwania do integralności, do spoglądania na siebie razem, bo inaczej my nie przejdziemy przez pewne trudności, jeżeli nie będziemy wewnątrz systemu edukacyjnego o tym mówić.
I wreszcie trzecie wyzwanie, charakter intelektualny i mądrościowy, w którym już wchodzimy do kwestii takiej, że przepływ informacji to nie wystarczy, bo tam jest jeszcze potrzebna refleksja.
[Słomka]
Nieustanny przepływ informacji zastępuje trud poszukiwania i to Leon punktuje jako coś, co zabija rozwój intelektualny człowieka.
[Strzelczyk]
No więc dochodzimy do miejsca, w którym w szkole czy w uniwersytecie coraz więcej powinno być takich momentów, kiedy my podejmujemy wspólną refleksję nad czymś i to ona powinna mieć jeszcze kilka podejść i tak dalej, czyli ten metapoziom tutaj zyskuje zdecydowanie na wartości. Ja bym tu położył kropkę, jeżeli chodzi o ten rozdział i przeskoczył do ostatniego, bo tam też się dzieją rzeczy dość ciekawe.
[Słomka]
Tutaj w zasadzie tylko możemy działać punktowo.
[Strzelczyk]
Tak, ale jedną rzecz bym chciał wypunktować bardzo.
[Słomka]
Rozdział piąty, kultura potęgi a cywilizacja miłości czy jeszcze dalej?
[Strzelczyk]
Tak, tak, tu idziemy i kwestia wojny, bo nagle nam się tu pojawia dość duży passus dotyczący wojny.
[Słomka]
Jest 189.
[Strzelczyk]
Wewnątrz takiego podrozdziału, który się nazywa kultura potęgi. Nawet chyba to określenie zaczyna być ciekawe, bo to jest diagnoza znowu tego, co się dzieje w ostatnich latach w kulturze, w której żyjemy. To znaczy silny ma rację.
[Słomka]
Znowu to zawsze było, ale w tej chwili to znowu nowa jakość.
[Strzelczyk]
Zrobiło się to bezczelne. Ja bym powiedział tak, bo jeszcze dwadzieścia parę lat temu byśmy powiedzieli tak. Ok, to się zdarza, ale generalnie my tego nie akceptujemy i jeżeli tylko możemy, to to piętnujemy jako coś, co jest właśnie niekulturalne.
[Słomka]
Tak, tutaj obłuda jest hołdem, jaki kłamstwo składa prawdzie. Dwadzieścia lat temu potężni, nawet jeżeli obłudni, to jednak szukali jakichś słów, jakiejś zasłony, ubierali się w cele wyższe. A teraz są bardzo potężni ludzie na świecie i to w świecie Zachodu, którzy odrzucili to, co uznali za obłudę i nazywają to fałszywie realizmem.
[Strzelczyk]
Przeciw temu Leon pisze bardzo mocno. Wprost, on to nazywa fałszywym realizmem. I idzie wręcz w taką tezę, że powinniśmy się w ogóle wyzbyć tych klasycznych rozważań o wojnie sprawiedliwej.
Mnie to postawiło w taki stan: ok, ale tu mi brakuje jednej rzeczy. Nie wiem, czy zwróciłeś uwagę na to, jak bardzo to jest radykalne. Właściwie myśmy powinni to porzucić.
Nie ma czegoś takiego jak wojna sprawiedliwa.
[Słomka]
Tak. Tutaj Leon bierze ten impuls Franciszka, który zwłaszcza w naszej pamięci zapisał się bardzo źle. To były słowa, gesty po agresji Rosji na Ukrainę.
I brany poza kontekstem on brzmi radykalnie, a w tamtym kontekście zabrzmiał fatalnie do dzisiaj. Do dzisiaj to się odbija, a chyba faktycznie było fatalne. Natomiast Leon bierze to i medytuje nad tym.
[Strzelczyk]
Może warto ten fragment zacytować.
[Słomka]
Zacytuj.
[Strzelczyk]
To jest numer 192.
Ludzkość dysponuje środkami o wiele skuteczniejszymi i bardziej sprzyjającymi ludzkiemu życiu w mierzeniu się z konfliktami, narzędziami takimi jak dialog, dyplomacja i przebaczenie. Uciekanie się do siły, przemocy i broni świadczy o ubóstwie relacyjnym, które zawsze pociąga za sobą katastrofalne konsekwencje dla ludności cywilnej. To jest konkluzja właściwie tego punktu, ale ona jest kluczowa.
[Słomka]
Żeby jednak wybrzmiało coś, co tu jest niezbędne. Dwie linijki wcześniej. Dziś bardziej niż kiedykolwiek trzeba potwierdzić przezwyciężenie teorii wojny sprawiedliwej, zbyt często przywoływanej w celu usprawiedliwienia wszelkiej wojny, przy równoczesnym zachowaniu prawa do uprawnionej obrony, rozumianej w sensie najściślejszym.
Gdyby nie było tych kilku ostatnich słów, Leon by odpłynął w sferę oderwaną od rzeczywistości. Bo żyjemy w świecie, gdzie obok nas...
[Strzelczyk]
Gdzie toczą się wojny.
[Słomka]
Ale gdzie została zapoczątkowana wojna przez agresję w stanie czystym. Gdzie nie było negocjacji, nie było nic, tylko po prostu był atak, który jawnie mówił, że chce was zniszczyć.
[Strzelczyk]
Usunięcie pojęcia wojny sprawiedliwej służy temu, co jest w końcówce. To znaczy powiedzenie czegoś takiego, że my mamy inne środki do rozwiązania problemów. Czyli wojna nigdy nie jest sprawiedliwa.
Tak, to jest racja. Obrona konieczna to jest zupełnie inna historia.
[Słomka]
Tak, ale trzeba mówić jednocześnie o tych dwóch aspektach. I nie wiem, czy zgodzisz się, jakbym to ujął od tej strony. Nikt nie ma prawa rozpocząć wojny, posługując się jakimkolwiek argumentem z...
[Strzelczyk]
Ja bym powiedział jeszcze bardziej zdecydowanie. Nikt nie ma prawa rozpocząć wojny, kropka. Taki jest sens tego.
Absolutny. Taki jest sens tego, zgadza się. To, co papież mówi, to jest to, że dopóki my utrzymujemy na powierzchni mówienie o wojnie sprawiedliwej, to jesteśmy w stanie, zwłaszcza w kontekście świata, w którym poruszamy się w kłamstwie, ktoś zawsze jest w stanie powiedzieć, my wywołujemy tę wojnę, bo musimy ochronić kogoś, kto...
[Słomka]
To się dzieje raz po raz. To nie mówimy o hipotezach, tylko o tym, co dzieje się ciągle w świecie.
[Strzelczyk]
Nie, więc dopóki my będziemy utrzymywać na powierzchni w katolicyzmie nauczanie o wojnie sprawiedliwej, to będziemy dawać pożywkę dla kolejnych wojen. Tak. To jest jedna z najważniejszych rzeczy w tej encyklice moim zdaniem.
Prawie nieskomentowana.
[Słomka]
Ja się spotkałem już z pytaniami o to, ale przyznam, że dopiero tutaj w tej rozmowie zobaczyłem to w tej jasności, w tym jak postawiłeś kropkę. Nikt nie ma prawa rozpoczynać wojny. Kropka.
[Strzelczyk]
To jest radykalizm tego słowa, które papież kieruje do nas. I myślę, że całe szczęście, że to zostało wreszcie powiedziane. Bo tego się już nie da obejść.
To znaczy, albo zostałeś napadnięty i się bronisz i okej, wtedy masz prawo się bronić. Albo nie masz prawa zacząć.
[Słomka]
A jeżeli ktoś chciałby trochę w starym stylu, chociaż to nie jest stary styl, zawsze potrzeba szukania uzasadnienia ideowego będzie powracała. Tylko najradykalniejsi, tacy fałszywi realiści powiedzą, zaczynam wojnę, bo mogę, bo chcę zyskać to, co chcę zyskać i nic mnie nie obchodzi. Ale wielu innych będzie szukało jakiegoś zaczepienia na przykład w nauce Kościoła i tu Leon powiedział, nie ma.
[Strzelczyk]
Dokładnie. Więc to jest terapia szokowa wręcz moim zdaniem, jeżeli chodzi o...
[Słomka]
Ale masz rację, absolutnie niezbędna. A to wreszcie zostało tak jasno powiedziane i właśnie nie... Też unikamy przyporządkowywania tych zdań do aktualnie toczących się sytuacji, ale każdy widzi, że...
[Strzelczyk]
Ale kontekst jest taki.
[Słomka]
Że to jest nauczanie wewnątrz świata, wojna światowa w kawałkach.
[Strzelczyk]
Normalizacja wojny, która tu jest piętnowana w kilku punktach, jest czymś, co rzeczywiście się dzieje na naszych oczach i to wymaga sprzeciwu. Natomiast ja wiesz, jak pierwszy raz szybciutko czytałem, to miałem takie: moment, moment, moment. Czy myśmy się tutaj nie zagalopowali?
Musiałem wrócić do tego punktu, gdzie zachowana jest obrona konieczna.
[Słomka]
Tak, dlatego to trzeba jednocześnie mówić.
[Strzelczyk]
No i z drugiej strony potem dochodzimy do tego punktu, że ludzkość dysponuje środkami o wiele skuteczniejszymi i bardziej sprzyjającymi ludzkiemu życiu w mierzeniu się z konfliktami. Czyli to nie jest tak, że my wierzymy, że nie będzie konfliktów. Wiemy, że konflikty będą, ale wiemy, że dialog, dyplomacja i przebaczenie nas przeprowadzają przez konflikty.
Znacznie skuteczniej niż jakakolwiek siła. Czyli teraz zadaniem naszym jest uczenie się tych trzech rzeczy tak naprawdę. Czyli dialogu, dyplomacji i przebaczenia.
[Słomka]
Tak, tutaj przy okazji Leon również jest prawnikiem i on ma wyczucie głębokiego sensu instytucji. Struktury instytucjonalne, również polityczne, są naszym ludzkim sposobem życia, funkcjonowania. One nie są zewnętrznym dodatkiem do autentycznej ludzkości.
I to tutaj też przebija, że to nie jest taki bujający w obłokach pacyfizm, tylko to jest wskazanie na istniejące struktury. Dlatego Leon bardzo ubolewa nad atrofią struktur międzynarodowych. Bo jak ktoś to śledzi, one się wydają zupełnie bezsilne.
Ale gdyby ich nie było, byłoby dużo gorzej.
[Strzelczyk]
Zdecydowanie. Tu jest jeszcze jeden wątek, który łączy potem wątek wojny ze sztuczną inteligencją. To znaczy autonomiczne systemy broni z wbudowaną sztuczną inteligencją.
I tu myślę, też się pojawia istotny wątek, że sztuczna inteligencja będzie nas znieczulać na to, że broń zabija.
[Słomka]
Ja na to zwróciłem uwagę, że Leon bardzo dobrze opisuje. To jest pewien szerszy proces, który znowu zacznijmy tak od miecza. Człowiek zabijający mieczem patrzy na tego człowieka, którego zabija.
Strzelający z karabinu patrzy przez muszkę. Lotnik wciska guzik, bomby lecą. I sztuczna inteligencja jest kolejnym elementem takiego znieczulania właśnie.
I to tutaj Leon pisze jako obniża próg łatwości zabijania, wchodzenia w wojnę, bo ci ludzie znikają, ci, których zabijamy, ja ich nigdy nie widzę. A to, co mówisz i to, co tu jest, to jest kolejny próg. Że już coś, co przestaje mieć znamiona decyzji o zabiciu, dzieje się na poziomie programowania maszyny zabijającej.
[Strzelczyk]
I teraz to nieraz nie operator, który bezpośrednio odpowiada za maszynę, odpowiada ostatecznie za decyzję moralną, tylko programista, który nawet nie wie do końca o tym, że programuje algorytm, który ostatecznie będzie służyć...
[Słomka]
Nawet jak wie, to i tak tylko programuje i nigdy nie...
[Strzelczyk]
Tak, ale może nie wiedzieć, to może być aż tak rozmyte. Tak, oczywiście. To może być aż tak rozmyte, że ostatecznie wygląda na to, że nie ma żadnej osoby, która jest odpowiedzialna za rozstrzygnięcie o życiu lub śmierci jakiegoś człowieka.
To może być tak rozmyte. I tu papież mówi, że jednak nie wolno wydelegować tej odpowiedzialności. To znaczy, jeżeli już, to musimy ją na siebie brać.
To jednak człowiek.
[Słomka]
198 punkt. Niekiedy mówi się o sztucznych podmiotach moralnych, jak gdyby maszyna mogła zagwarantować rozróżnienie między dobrem a złem z większą konsekwencją niż człowiek. Więc w tym punkcie antropomorfizacja maszyny przybiera swoje najbardziej złowrogie oblicze.
[Strzelczyk]
Natomiast, i tu jest może pewien słaby punkt, jeżeli chodzi o encyklikę. Przynajmniej ja tu mam kłopot pewien. Bo co do decyzji moralnej, okej.
I co do tego, że na końcu powinien być człowiek, który podejmuje te decyzje i ponosi konsekwencje itd. To prawda. Natomiast jednak już powoli możliwości sztucznej inteligencji w bardzo wielu zastosowaniach pozwalają np. na lepsze rozpoznawanie przeciwnik–swój niż by to było robione przez człowieka albo żołnierz–cywil. W związku z tym broń może być precyzyjniejsza. Więc ma też drugi koniec.
Trochę mi brakuje tego drugiego końca.
[Słomka]
Ja nie mam tak szybko zdania na ten temat. Ale tu jest też pewien sposób pisania Leona dotyczący całej encykliki, że on w wielu miejscach zatrzymuje się w pół drogi. I to można rozważać każdy osobno.
Tam pewnie jest kilka różnych typologii dlaczego, ale tutaj może nie chciał znowu otwierać furtki. Może był przekonany, że to oni wiedzą beze mnie.
[Strzelczyk]
No tak, ale wiesz, tu się pojawia taki wątek w 199 numerze, że sztuczna inteligencja ma tendencję do skracania czasu podejmowania decyzji. Tymczasem na wojnie nieodwracalne decyzje nie mogą mieć za nadrzędne kryteria szybkości i skuteczności. I tu obawiam się, że ludzie, którzy mają do czynienia jednak faktycznie z wojskiem, to tu mają moment, ale życie zależy właśnie od tego, czy zareaguje szybciej, czy zareaguje wolniej.
[Słomka]
Tak, to zdanie jest zdaniem teoretyka, który siedzi daleko od frontu.
[Strzelczyk]
Dopóki rozważamy niegodziwość wojny jako takiej, pełna zgoda. Natomiast jeżeli my jesteśmy na etapie mówienia, że kryterium szybkości i skuteczności nie jest podstawowym kryterium, to jest ryzykowne.
[Słomka]
Tylko że tu jest przykład, że jest nie tyle o jedno zdanie za mało, co o jedno zdanie za dużo.
[Strzelczyk]
Być może, być może. Ja rozumiem, co papież usiłuje powiedzieć. Natomiast przeniesienie tego na warunki frontowe, kiedy leci na ciebie dron.
[Słomka]
Doskonale rozumiem, dlatego tak patrzę na to zdanie i myślę, że właśnie o jedno zdanie za dużo albo, co na jedno wychodzi, za szybko napisane przy tak długim tekście, gdzie większość zdań jest naprawdę nośna. To się zdarza. Natomiast wrócę do pewnej refleksji.
Leon, papież, pisze encyklikę, dokument, który należy do magisterium Kościoła i pisze encyklikę, która jednocześnie, pozostając w całej pełni dokumentem teologicznym, doktrynalnym, magisterialnym, ma być encykliką, ma być tekstem, który przemawia do ludzi, dla których autorytet Kościoła jest raczej przeszkodą albo jest obojętny. I to jest Sobór Watykański II, ojcowie na wstępie podjęli decyzję: nie potępiamy. I tutaj jest według mnie kolejna próba pisania dokumentu magisterialnego, skierowanego do całego świata, który nie odwołuje się w kolejnych punktach do autorytetu papieskiego, tylko stara się przekonywać racjonalnie, nigdy nie ukrywając, że zaczynamy od wiary i że to jest teologia.
To było takie odejście ku pryncypiom tej encykliki i trudności jej napisania.
[Strzelczyk]
Musimy powoli kończyć, ale myślę, że warto podrzucić jeszcze ze dwa wątki. Jeden to zachęcam państwa do w ogóle przeczytania tego kawałka w części, która dotyczy sztucznej inteligencji, który mówi o tym, że sztuczna inteligencja nie jest zwykłym narzędziem. To jest ważne właśnie w kontekście i zaaplikowane do tego kontekstu broni, w której wbudowana jest sztuczna inteligencja.
Papież mówi, że tym się różni sztuczna inteligencja od zwykłych narzędzi, że w zwykłym narzędziu nie ma wbudowanej żadnej moralności. Łopata jest łopatą, ona jest neutralna moralnie. Natomiast sztuczna inteligencja ma wbudowane jakieś pryncypia, bo one zależą od danych, na których to było trenowane, i od pewnych parametrów, które są ustawiane przez architektów i my o tym nie wiemy i to jest kłopot.
To jest jedna z rzeczy, które są bardzo ciekawe i do doczytania rzeczywiście w dokumencie. I druga, która mnie mocno poruszyła chyba także dlatego, że w kontekście polskim to jest takie śląskie doświadczenie trochę, bo Ślązacy często mają w Polsce taki kłopot ze zrozumieniem się ze względu na to, że my mamy tendencję do budowania tożsamości do ziemi. A w Polsce, mam wrażenie, czasami się pojawia taka tendencja do budowania tożsamości w opozycji albo do Niemców, albo do Rosjan, ale ten wątek opozycyjny jest dość mocno obecny.
To jest moje prywatne przekonanie, ale ono jest mocno nabudowane też na pewnej wrażliwości wielu ludzi, z którymi rozmawiałem. I pojawia się w 202 numerze taki tekst, który dla mnie jako dla Ślązaka był niezwykle budujący czy potwierdzający pewną intuicję, że powraca nam pokusa budowania tożsamości zbiorowej w opozycji do wroga, podsycając narracje, w których każdy przedstawia siebie jako ofiarę uprawnioną do odwetu. Nawet biorąc pod uwagę ostatnie wydarzenia na naszej scenie politycznej ostatnich miesięcy czy tygodni, to jest trafienie w punkt moim zdaniem.
[Słomka]
Tak i to jest trafienie w punkt w wielu miejscach, w wielu sytuacjach, które teraz w świecie się dzieją i prowadzą do wojen, które się już toczą.
[Strzelczyk]
Czy potrafiłbyś takie swoje punkty ulubione wskazać na koniec?
[Słomka]
Tak na bieżąco, jak zauważyłeś, gdy coś mnie dotykało, dosyć szybko wchodziłem ci w pół zdania, żeby to na gorąco powiedzieć. Dla mnie to, co nie znajduje lepszego słowa jak symulakrum, to rozmycie kontaktu z rzeczywistością. To jest coś, co Leon ujął przede wszystkim w tym opisie relacji czy interakcji jeden na jeden, gdzie człowiek prywatnie wchodzi w interakcje i to jest coś, co jest do ciągłego analizowania i uświadamiania. Czyli jest to zupełnie nowy sposób troski o prawdę. A drugie to nawiążę do pierwszego punktu, który powiedziałeś. Relacja człowiek–narzędzie jest jedną z kilku podstawowych relacji opisujących nasze bycie w świecie.
Leon mówi, że tu trzeba coś przemyśleć. Dotychczasowe sposoby myślenia człowiek–narzędzie nie oddają istoty tego, jak wygląda relacja człowiek–algorytm sztucznej inteligencji. Pytanie o status tekstu wygenerowanego przez sztuczną inteligencję.
Czy narzędzie potrafi mówić?
[Strzelczyk]
Bardzo ciekawe to jest w kontekście tego, że próba opisywania sztucznej inteligencji jako zwykłego narzędzia, całą odpowiedzialność za jego używanie składa na tym, który pisze prompty i używa po prostu.
[Słomka]
Nawet wręcz przeciwnie. Jest nóż, za użycie noża odpowiada ten, kto ma aktualnie nóż w ręce.
[Strzelczyk]
To jest znacznie bardziej złożone w przypadku LLM-u.
[Słomka]
Mówisz, że pisze prompty, a ja patrzę z perspektywy takiego prywatnego użytkownika, który nie wie, co to jest prompt.
[Strzelczyk]
Prompt to jest to polecenie, które się wpisuje, żeby uzyskać efekt, odpowiedź.
[Słomka]
Natomiast zgadzam się, że idea narzędzia zupełnie nie obejmuje tego, co jest cechą dystynktywną algorytmów.
[Strzelczyk]
Tu mamy, żeby iść po linii metafory łopaty. Łopata może służyć do wykopania dołka pod drzewo albo pod sąsiada. Ale łopata nie ma inklinacji w jedną lub w drugą stronę.
I to jeszcze ukryte przed użytkownikiem.
[Słomka]
To jest ta czarna skrzynka, że twórcy przyznają, że nie wiedzą, co się dzieje w środku.
[Strzelczyk]
A to jest kłamstwo. Właśnie. To jest jedno z kłamstw.
Niestety tu papież w rozpędzie, moim zdaniem, albo zwiedziony przez tych panów, którzy tam byli przy okazji. Bo papież to niestety powiedział trochę.
[Słomka]
W tej chwili ty mnie wyprowadzasz z pewnej takiej niewiedzy, bo ja żyłem przekonaniem, że faktycznie twórcy tego nie wiedzą, co wrzucają do czarnych skrzyń. Znaczy, wiedzą, co wrzucają i nie wiedzą, dlaczego wychodzi to, co wychodzi.
[Strzelczyk]
To jest troszkę inaczej. Dlatego że architektura determinuje to, co wychodzi, co do ogólnych zasad i co do kierunków. To, czego my nie jesteśmy w stanie objąć poznaniem, to tego, jak dane przelatują przez 300 miliardów parametrów.
Bo to jest zaawansowana matematyka. Ale matematyka. Czyli tam nie ma właśnie niczego, co by było mistyczno-czarne.
Tam nie ma życia wewnętrznego. Tam się nie dzieją rzeczy.
[Słomka]
Dla mnie to jest oczywiste. Tylko że ta matematyka jest też... Ma jakieś elementy probabilistyczne.
Że coś nie jest to... Nie wiem.
[Strzelczyk]
Ale ta probabilistyka jest zwykle wkładana na samym końcu, żeby prompt taki sam, dwa razy podany, nie generował dokładnie takiego samego zdania na wyjściu.
[Słomka]
I ono jest jakby dekoracyjne, marginalne.
[Strzelczyk]
Bardziej tak. Natomiast ten proces trenowania modeli, oczywiście on zależy od danych, na których...
[Słomka]
To jest dla mnie oczywiste.
[Strzelczyk]
Ale my wybieramy te dane.
[Słomka]
To jest dla mnie oczywiste. Tylko że sposób przetwarzania tych danych z matematyką tak ścisłą, że metafora czarnej skrzynki jest fałszywa.
[Strzelczyk]
Tak. Ona o tyle tylko może być sensowna, że my nie jesteśmy w stanie rozumem w czasie rzeczywistym.
[Słomka]
To dla mnie jest oczywiste. Tylko czarna skrzynka oznacza, że to jest tak jakby substancjalnie niepoznawalne.
[Strzelczyk]
A to nie jest tak.
[Słomka]
No więc właśnie o to mi chodziło.
[Strzelczyk]
Chodzi o to, że ci, którzy tworzą te modele, ustawiają określone rzeczy i mogą też wstawiać do systemu parametry, które zmieniają wagi. Czyli my możemy wbudować modelowi to, żeby on na przykład był bardziej uważny na to, jak się komunikuje z osobami, które zdradzają, że są poniżej 18 roku życia.
[Słomka]
Tak. Czyli to jest... W tej chwili komentujemy frazę cyfrowa władza.
[Strzelczyk]
Tak. Tak, tak. Bo tu wracamy do tego wątku.
Więc to mówienie o czarnej skrzynce o tyle jest niebezpieczne, że ono zdejmuje odpowiedzialność twórców. I moim zdaniem to jest ciągle wpuszczane ten taki...
[Słomka]
Tak, tak. Ja jestem przykładem tego, że tu przyszedłem i w dobrej wierze wrzuciłem to w naszą rozmowę.
[Strzelczyk]
No właśnie tak nie jest.
[Słomka]
Dziękuję bardzo. Już nigdy więcej do tego nie wrócę.
[Strzelczyk]
To jest jedna z takich ściem pod tytułem „ciemny lud to kupi” i będzie myślał, że my nie odpowiadamy za to, co tam się dzieje, ale to daje takie fajne efekty. I tu papież jest trochę niekonsekwentny, bo najpierw mówi właśnie o... Trochę to powtarza w tym 98 numerze, a potem mówi, że jednak odpowiedzialność jest na architektach.
Gdyby ci architekci nie wiedzieli, co tam się dzieje, to nie można by było, nie? To by były tylko dwa wyjścia. Albo to zamknąć w ogóle.
[Słomka]
Tak. Właściwie ja byłem takim przekonanym, że skoro to jest czarna skrzynka, to to jest bezwartościowe, bo my nie wiemy, co wyjdzie. Ale ty mówisz, że to nie tak.
[Strzelczyk]
My właśnie wiemy, co wyjdzie. No tak, dobra. Oczywiście, że teraz nie będziemy robić podcastu o strukturze.
Jest tego dużo w internecie. Naprawdę warto poświęcić trochę czasu na to, żeby w miarę elementarnie zrozumieć, jak te modele działają, bo wtedy się dużo wyjaśnia. Także jeżeli chodzi o ich używanie sensowne.
Ale to jest jakby na inną... Ja może podrzucę w opisie podcastu link do takich podcastów, które warto...
[Słomka]
Które ty polecasz. Tak. O, z polecenia ludzkiego.
[Strzelczyk]
I teraz już kończymy. Polecając bardzo z polecenia ludzkiego lekturę encykliki, bo oczywiście my ją próbkowaliśmy, ale nie ruszyliśmy chyba nawet jednej trzeciej wątków, które się tam pojawiają.
[Słomka]
Tak, no i dlatego ona jest nie do przeczytania. Może ktoś potrafi jednym ciągiem z pożytkiem przeczytać, ale tak, spis treści jest dobry. I zaczynając od spisu treści, czytać te fragmenty, które wydają się aktualnie najbardziej ciekawe.
To jest jeden ze sposobów lektury w pełni uprawniony.
[Strzelczyk]
Zatem zachęcamy i do zobaczenia, do usłyszenia.
[Słomka]
Dziękuję bardzo. Szczęść Boże.