Co zagraża ludzkości komputeryzacją całego naszego życia?

2024 Autor: Seth Attwood | [email protected]. Ostatnio zmodyfikowany: 2023-12-16 16:14

Smartfony, roboty i komputery ułatwiają nam życie, ale może coś w tym tracimy? Reporter rozmawiał z amerykańskim pisarzem Nicholasem Carrem o niebezpieczeństwach, a nawet groźbach nadmiernej automatyzacji.

Powszechnie uważa się, że automatyzacja wszystkiego i wszystkich poprawia jakość naszego życia. Komputery pomagają nam osiągnąć najwyższą wydajność. Aplikacje programowe przyspieszają i ułatwiają wykonywanie zadań. Roboty podejmują się żmudnej i ciężkiej pracy. Ciągły strumień innowacji z Doliny Krzemowej tylko utwierdza ludzi w przekonaniu, że nowe technologie czynią życie lepszym.

Jest jednak inna opinia. Pisarz Nicholas Carr poddaje bezstronnej analizie postulaty współczesnego świata cyfrowego. Jego esej „Does Google Make Us Stupid?”, opublikowany w Atlantic w 2008 roku, wciąż budzi kontrowersje, podobnie jak jego bestseller z 2010 roku The Shallows.

Zwolennicy teorii, że technologia uratuje nasz świat, postrzegają Carra jako jednego ze swoich najpotężniejszych przeciwników. A ci, którzy obawiają się konsekwencji postępu technologicznego dla ludzkości, szanują go za jego wyważoną argumentację.

Teraz Carra interesuje nowe pytanie: czy powinniśmy się bać, że stopniowo nie będzie dla nas na świecie trudnych zadań? Czy dzięki nowym technologiom nasze życie stanie się zbyt efektywne?

Jakiś czas temu spotkałem się z pisarzem, aby porozmawiać o jego nowej książce „Szklana klatka: automatyzacja i my” oraz o tym, co skłoniło go do jej napisania.

1. Obalanie głównego mitu o nowych technologiach

Tom Chatfield:Jeśli dobrze rozumiem, w książce „Szklana klatka” próbujesz obalić mit, że uproszczenie naszego życia dzięki postępowi technologicznemu jest z konieczności zjawiskiem pozytywnym.

Mikołaj Carr:Zarówno na poziomie osobistym, jak i instytucjonalnym jesteśmy przyzwyczajeni do myślenia, że wydajność i komfort są domyślnie dobre, a ich maksymalizacja jest z pewnością wartościowym celem. Wydaje mi się, że takie podejście do technologii we wszystkich jej formach, zwłaszcza w postaci automatyzacji komputerowej, jest raczej naiwne. Dotyczy to również naszych własnych pragnień i realnego życia we współczesnym świecie.

Czy komputery kiedykolwiek zastąpią ludzi?

T. Ch.:A jednak większość zwolenników postępu technologicznego trzyma się utylitarnego punktu widzenia, zgodnie z którym największe błędy, jakie popełniamy, wynikają z zaniedbania sprawności i logiki, a tak naprawdę sami nie wiemy, co jest dla nas dobre. Dlatego z ich punktu widzenia zadaniem postępu technologicznego jest identyfikacja niedociągnięć ludzkiego myślenia, a następnie tworzenie systemów, które te niedociągnięcia kompensowałyby. Czy ta opinia jest błędna?

N. K.: Z jednej strony wiele innowacji w rozwoju technologii komputerowej i rozwoju zautomatyzowanych systemów nie ma nic wspólnego z powszechnym twierdzeniem, że ludzie są bardzo niedoskonali w porównaniu z komputerami. Tak, komputer można zaprogramować do wykonywania pewnych operacji w nieskończoność ze stałą jakością. I to prawda, że człowiek nie jest do tego zdolny.

Ale niektórzy idą jeszcze dalej i twierdzą, że ludzie są zbyt niedoskonali, że ich rola powinna być jak najbardziej ograniczona, a komputery powinny odpowiadać za wszystkie podstawowe zadania. Nie chodzi tylko o to, by zrekompensować ludzkie niedociągnięcia – chodzi o całkowite usunięcie czynnika ludzkiego, w wyniku którego, jak się argumentuje, nasze życie stanie się znacznie lepsze.

T. Ch.: Wydaje się, że to nie jest najlepszy pomysł. Czy istnieje optymalny poziom automatyzacji?

N. K.: Moim zdaniem pytanie nie brzmi, czy musimy zautomatyzować to czy inne złożone zadanie. Pytanie brzmi, jak wykorzystać automatyzację, jak dokładnie wykorzystać komputery, aby uzupełnić ludzką wiedzę i umiejętności, zrekompensować wady ludzkiego myślenia i zachowania, a także pobudzić ludzi do jak najlepszego wykorzystania własnych doświadczeń, aby osiągnąć nowe wyżyny.

Zamieniamy się w obserwatorów monitorów komputerowych

Nadmierne poleganie na oprogramowaniu może zmienić nas w obserwatorów monitorów komputerowych i operatorów przepływu procesów. Komputery mogą odgrywać bardzo ważną rolę, ponieważ jesteśmy tylko ludźmi – możemy paść ofiarą uprzedzeń lub przegapić ważne informacje. Ale niebezpieczeństwo polega na tym, że zbyt łatwo jest zlecić wszystkie nasze funkcje komputerom, co moim zdaniem byłoby złą decyzją.

2. Czy musisz przybliżyć prawdziwe życie do scenariusza gry wideo?

T. Ch.: Z przyjemnością zauważyłem, że w swojej książce przytaczasz gry wideo jako przykład interakcji człowiek-maszyna, w której chodzi o pokonywanie trudności, a nie ich unikanie. Najpopularniejsze gry to rodzaj pracy, która daje graczowi poczucie satysfakcji. Możemy tylko narzekać, że praca, którą wielu z nas musi wykonywać na co dzień, wymaga znacznie mniejszych umiejętności i sprawia nam o wiele mniej przyjemności.

Gry wideo stymulują graczy do włożenia dodatkowego wysiłku i maksymalnego wykorzystania mózgu

N. K.: Gry wideo są interesujące, ponieważ ich koncepcja jest sprzeczna z ogólnie przyjętymi zasadami tworzenia oprogramowania. Celem gier komputerowych wcale nie jest odciążenie użytkownika od niedogodności. Wręcz przeciwnie, pobudzają gracza do dodatkowego wysiłku i jak największego wykorzystania mózgu. Lubimy gry wideo właśnie dlatego, że stanowią dla nas coraz większe wyzwania. Nieustannie znajdujemy się w trudnych sytuacjach – ale nie w sytuacjach, które powodują rozpacz. Pokonywanie każdego nowego poziomu tylko doskonali nasze umiejętności.

Ten proces jest bardzo podobny do tego, w jaki sposób człowiek zdobywa doświadczenie życiowe w prawdziwym życiu. Jak wiemy, dla rozwoju umiejętności człowiek musi raz po raz stawiać czoła poważnym przeszkodom i wciąż je pokonywać, wykorzystując całą swoją wiedzę i umiejętności. Stopniowo osoba osiąga nowy poziom, po czym wzrasta złożoność przeszkód.

Myślę, że ludzie kochają gry wideo z tego samego powodu, dla którego czerpią satysfakcję z zdobywania nowych doświadczeń i pokonywania przeszkód. Rozwiązanie trudnego zadania, w trakcie którego zdobywa się nową wiedzę, niezbędną do pokonania nowych, jeszcze bardziej złożonych trudności, sprawia człowiekowi wielką przyjemność.

Całkowite poddanie się komputerowi doprowadzi nas do życia, w którym będzie mało miejsca na samorealizację

Jedną z głównych obaw, jakie wyrażam w książce, jest to, że nasz stosunek do postępu wiąże się z chęcią unikania w jak największym stopniu rozwiązywania trudnych problemów. Wydaje mi się, że ten punkt widzenia jest sprzeczny z samą koncepcją zadowolenia z życia i samorealizacji.

3. Czy komputery wyeliminują potrzebę ludzi?

T. Ch.: W przeciwieństwie do gier wideo, w prawdziwym świecie ciężka praca niekoniecznie jest nagradzana. Rzeczywisty świat jest niesprawiedliwy i niezrównoważony. Być może najbardziej niepokojącym trendem jest to, że interesy jednostki (psychologicznie, osobiście, a nawet pod względem przetrwania) coraz bardziej odbiegają od pojęć celowości korporacji i rządu. Czy obawiasz się, że komputery w końcu zastąpią ludzi?

Wiele gier jest trudnych do przejścia i wymaga od graczy niezwykłych umiejętności i pomysłowości. Dlaczego więc reszta technologii miałaby tylko ułatwiać nam życie?

N. K.: Kiedy zbierałem materiał do książki, bardzo przeraził mnie artykuł (cytaty, które cytuję w tekście), napisany przez specjalistę od strategii wojskowej. Według niego, biorąc pod uwagę rosnącą skalę wykorzystania technologii komputerowych na polu bitwy, bardzo szybko może po prostu nie być miejsca dla osoby zajmującej się sprawami wojskowymi. Szybkość podejmowania decyzji wzrosła tak bardzo, że ludzie po prostu nie mogą nadążyć za komputerami. Nieuchronnie zmierzamy w kierunku w pełni zautomatyzowanej wojny: bezzałogowe statki powietrzne same będą decydować, kiedy wystrzelić pociski do celów, a żołnierze-roboty na ziemi będą sami decydować, kiedy strzelać.

Moim zdaniem taka sytuacja jest obserwowana nie tylko w sprawach wojskowych, ale także w wielu innych dziedzinach – na przykład w świecie finansów. Ludzie po prostu nie nadążają za komputerami, na przykład podczas handlu instrumentami finansowymi.

Co nas czeka? Możemy nie tylko stracić odróżniającą nas od komputerów zdolność krytycznej oceny własnych działań – być może będziemy bezmyślnie wdrażać takie systemy, wierząc, że najważniejsza jest szybkość podejmowania decyzji. A potem, jeśli będziemy przekonani, że się myliliśmy, przekonamy się, że nie ma odwrotu. Bardzo często okazuje się niemożliwe zintegrowanie osoby z systemem oryginalnie zbudowanym na technologii komputerowej.

T. Ch.: Ja również byłem przerażony, gdy przeczytałem fragment twojej książki o zautomatyzowanej wojnie. Mam wrażenie, że procesu, który doprowadzi nas do w pełni autonomicznych systemów walki, nie da się zatrzymać. Część mojego przerażenia pochodzi ze wspomnień kryzysu finansowego z 2008 roku, który zniknął praktycznie biliony dolarów. Przynajmniej teraz ludzie są bardziej odpowiedzialni za swoje finanse. Ale jeśli zdarzy się to w sferze wojskowej, zniszczone zostaną nie dolary, ale ludzkie życie.

Przyszłość bez ludzi?

N. K.: Nie chodzi tylko o to, że nowe technologie, zwłaszcza technologie oprogramowania, mogą być dziś bardzo szybko replikowane i rozpowszechniane. Chodzi o to, że wszystkie te procesy zachodzą w konkurencyjnym środowisku. Niezależnie od tego, czy mówimy o wyścigu zbrojeń, czy o rywalizacji biznesowej, gdy tylko jeden z rywali zyskuje krótkoterminową przewagę kosztem tej czy innej technologii, ta technologia jest natychmiast wprowadzana wszędzie tam, gdzie to możliwe - ponieważ nikt nie chce być na niekorzyść.

Myślę, że w tej sytuacji zbyt łatwo jest stracić z oczu fakt, że jesteśmy zasadniczo zwierzętami. Ludzie przeszli ścieżkę ewolucyjną przez tysiąclecia, aby móc żyć i przetrwać. Rola ludzkości, a także nasze poczucie satysfakcji i samorealizacji są ściśle związane z naszym doświadczeniem życia w świecie, który wyznacza nasze zwykłe tempo.

Dlatego, gdy przeciwstawiamy człowieka, ze wszystkimi jego fizycznymi zaletami i wadami, szybkiemu i dokładnemu komputerowi, pojawia się chęć oddania komputerom całego naszego życia. Zapominamy jednak, że całkowite poddanie się komputerowi doprowadzi nas do życia, w którym będzie mało miejsca na samorealizację.

4. Jak automatyzujemy świat?

T. Ch.: Uważam, że musimy być krytyczni wobec nowych technologii, ale niepokoi mnie to, że ludzie zamieniają niepotrzebne trudności i antytechnologiczną „autentyczność” w fetysz. Istnieje taka nowoczesna szkoła myślenia, która chwali ciężką pracę fizyczną i twierdzi, że wszystko, co robimy, musi być rzemieślnicze i autentyczne. Moim zdaniem takie stanowisko śmierdzi snobizmem i nie uwzględnia ogromnej liczby pozytywnych osiągnięć, jakie przyniosła ze sobą demokratyzacja postępu technologicznego.

N. K.: Całkowicie się z Tobą zgadzam. W wywiadzie zapytano mnie, jak moje ostrożne podejście do postępu pomogłoby np. osobom pracującym w ciężkich warunkach w zakładach mięsnych. Odpowiedziałem, że oczywiście zawsze będzie miejsce na automatyzację produkcji, gdzie trzeba poprawić warunki pracy ludzi. Tyle, że możesz wprowadzać innowacje mądrze lub możesz to robić bezmyślnie; możemy znaleźć sposób na uwzględnienie wartości ludzkiego doświadczenia i wagi samorealizacji lub po prostu wychwalać możliwości komputerów. Dokonanie właściwego wyboru nie jest łatwe. Jeśli postrzegamy to zadanie wyłącznie w czerni i bieli - albo ślepo walczymy o ciężką, wyczerpującą pracę fizyczną w każdej sytuacji, albo odwrotnie, widzimy sens życia w sybaryzmie - nie pomoże to sprawie.

Najtrudniejsze i wymagające wyjątkowej precyzji prace najlepiej pozostawić maszynom

Ludzie nieustannie tworzą i używają narzędzi. Od niepamiętnych czasów musimy podejmować decyzje związane z podziałem pracy, z podziałem ilości pracy między osobę i narzędzia, którymi dysponuje. I wydaje mi się, że niesamowita wydajność komputerów w wykonywaniu szerokiego zakresu zadań tylko komplikuje proces podejmowania takich decyzji.

5. Co nas czeka?

T. Ch.: Czy ludzkość zmierza do sukcesu?

N. K.: Historyk historii naturalnej Thomas Hughes, który zmarł w zeszłym roku, zaproponował koncepcję „technologicznego pędu”. Uważał, że technologie osadzone w strukturach i procesach społecznych zaczynają rozwijać się samoistnie, ciągnąc za sobą społeczeństwo. Całkiem możliwe, że nasza trajektoria została już wyznaczona i będziemy kontynuować obecną drogę, nie zadając pytań, czy zmierzamy we właściwym kierunku. Naprawdę nie wiem, co się stanie. Jedyne, co mogę zrobić, to spróbować uzasadnić te naprawdę trudne pytania najlepiej, jak potrafię.

Mam nadzieję, że jako jednostki i jako członkowie społeczeństwa będziemy w stanie zachować pewien poziom zrozumienia tego, co się z nami dzieje, a także pewien poziom ciekawości i podejmować decyzje w oparciu o nasze długoterminowe interesy, a nie na podstawie naszych zwykłych koncepcji wygody, szybkości, dokładności i wydajności.

Nadejdzie dzień, a roboty uwolnią nas od wszelkich trudności. Czy tego potrzebujemy?

Wydaje mi się, że musimy dążyć do tego, aby komputery wzbogacały nasze życiowe doświadczenia i otwierały przed nami nowe możliwości, a nie czyniły z nas biernych obserwatorów ekranów monitorów. Nadal uważam, że jeśli wydobędziemy więcej z nowych technologii, będą one w stanie zrobić to, co technologia i narzędzia zrobiły w historii ludzkości - stworzyć ciekawszy świat wokół nas i pomóc nam stać się lepszymi. Ostatecznie wszystko zależy od nas samych.