Perspektywy „iskina” w zarządzaniu ludzkością

2024 Autor: Seth Attwood | [email protected]. Ostatnio zmodyfikowany: 2023-12-16 16:14

Co się stanie, jeśli zaufasz sztucznej inteligencji do kontrolowania ludzi? W naszym prawodawstwie 99% przepisów jest ze sobą sprzecznych. Logicznie rzecz biorąc, powinno nastąpić załamanie mocy i zatrzymanie systemu sterowania…

Pomyślmy teraz o miejscu, które sztuczna inteligencja(dalej - iskin) przyjmie nasze życie, gdy (jeśli) zostanie wynaleziona i zastosowana. Proponuję nie spierać się o jego wewnętrzną naturę. Niech będzie to po prostu bardzo zaawansowany algorytm, który ma możliwość pracy z Big Data i jest w stanie w podobny sposób kopiować wzorce zachowań prawdziwych ludzi. Ale jeśli chcesz, niech to, co jest omawiane, będzie prawdziwym mężczyzną, tak jak sam to rozumiesz.

Oto główne pytanie. Gdzie zastosujemy ten młot Thora po jego otrzymaniu? I w zasadzie nie ma wątpliwości, że da się to zrobić. Możemy robić szlifierki cyfrowe, algorytmy samouczące się, zgromadzona wielka data - wszystko tam jest.

Powiedzmy, w zarządzaniu systemami technicznymi, na przykład poszczególnymi jednostkami transportowymi? - No, kamon… Po co tworzyć sprytny i skomplikowany system, by powierzyć mu to, z czym koń poradzi sobie? Będzie dość i prymitywny algorytm na procesorze za 10 dolców za wiadro, problem z zarządzaniem transportem jest tylko w pozyskiwaniu danych i kwestiach etycznych. Co wtedy? Pomyśl o piętnastu sekundach.

Moim zdaniem jest tylko jeden prawdziwe dla Iskina jest zarządzanie ludźmi … Dokładniej, procesy, w których uczestniczą ludzie. Z wielu powodów nie ma sensu wymieniać się na mniej. Każda osoba jest gotowa do zarządzania ludźmi bez specjalnego przeszkolenia. Na przykład całkowicie ufamy, że każdy będzie zarządzał własnymi dziećmi. Ponadto prawie wszyscy w zespołach mieli przynajmniej jakieś doświadczenie w zarządzaniu. Przynajmniej na poziomie „wrzuć jeszcze jedną łopatę do noszy, a my ją zaniesiemy”. Jeśli wszyscy osoba jest w zasadzie zdolna do zarządzania ludźmi, to musi to robić sztuczna inteligencja, inaczej jest to upośledzony umysłowo intelekt.

Jednak wyniki zarządzania ludźmi są dalekie od ideału. Każda prawdziwa kontrola to seria błędów i nieścisłości. Co więcej, liczba błędów prawie nie zależy od poziomu menedżera, jest to pewna stała. Tyle, że majster ładowaczy popełnia drobne błędy, a gubernator ma prawo popełniać błędy, które pociągają za sobą poważne konsekwencje. Rozumiemy to. „Powinniśmy zrobić źle” to główny rezultat odbicia otaczającego świata, w tym nas samych.

A teraz w naszych rękach jest sztuczna inteligencja, która ma to „zrobić”. I od razu go zastosujemy, bo problem, który teoretycznie może rozwiązać, jest najważniejszy. A Jamshut z trzema klasami edukacji jest również w stanie prowadzić ciężarówkę.

Jeśli zgadzasz się ze mną, to kontynuujmy prezentację funkcjonalności sztucznej skóry przeznaczonej do zarządzania. Czyje funkcje powinien pełnić, kogo zastąpić lub przynajmniej wzmocnić swoimi decyzjami?

Wiadomo, że będą to urzędnicy (zarówno w administracji publicznej, jak iw biznesie). Urzędnicy podejmują decyzje. Urzędnicy są akceptowani na wszystkich poziomach kompetencji. Urzędnicy są dziś ważni i potrzebni, bo decyzje nie podejmą same. Ale jest jeden punkt.

Przyjrzyjmy się każdemu kierownikowi (czyli każdemu urzędnikowi) z punktu widzenia dosłownej treści jego praktycznych działań. Ale nie w sensie jego motywacji - archetyp motywacji nie powinien być. Urzędnik albo zatwierdza transakcje, albo anuluje transakcje zatwierdzone przez innego urzędnika.

W idealnej maszynie wszystkie transakcje muszą być bezwarunkowo zatwierdzone i żadne transakcje nie mogą zostać anulowane, ponieważ zostały wcześniej zatwierdzone przez prawo. Ważnym czynnikiem w tym systemie jest to, że transakcje są przekazywane urzędnikowi z „czarnej skrzynki” do rozpatrzenia. Nie otrzymuje wyjaśnienia, dlaczego taka transakcja powinna zostać przeprowadzona lub dlaczego została zatwierdzona przez innego urzędnika. System sterowania zbudowany jest w następujący sposób. Powyżej znajduje się zlecenie w postaci dyspozycji wykonania kilku transakcji.

Należy zauważyć, że ideologiczna struktura takiego systemu wcale nie implikuje możliwości anulowania (nie zatwierdzenia) transakcji otrzymanej z góry, z „czarnej skrzynki”. Ale w praktyce taka możliwość istnieje zawsze. I to ona zapewnia dwie najważniejsze rzeczy: władzę każdego urzędnika i powstrzymywanie takiej władzy.

Pozwolę sobie wyjaśnić, że każdy błąd (mówiliśmy powyżej, że są one nieuniknione i trwałe) można rozpuścić w opozycji leżących u ich podstaw mas biurokratycznych, a następnie zminimalizować konsekwencje tego błędu.

Jednak w teoretycznym idealnym systemie zarządzania nie powinno być błędów, dlatego rola urzędnika sprowadza się do formalnego zatwierdzania transakcji, których nie może nie zatwierdzić, ponieważ są poprawne. Oznacza to, że nie ma takiej potrzeby. Tak więc pytanie sprowadza się do wstępnego sygnału zarządzania. Jeśli to prawda, to nie ma sensu na wszystkich niższych poziomach.

W teorii więc skonsolidowany budżet państwa powinien działać. Kiedy zostanie zaakceptowany, oznacza to, że cała jego fraktalna esencja zostaje ujawniona. Każda kapilara musi otrzymać przypisaną porcję krwi, aw odpowiedzi - zamierzony wynik. Tak, na samym dole są „ale nie dostarczyliśmy betonu na czas, a więc…” Ale przepraszam, to jest na samym dole, a aparatura kontrolna składa się z wielu poziomów, które nie dotykają betonu w ogóle operują transakcjami. Rozumiem, że na środkowych poziomach „beton nie został dostarczony” wygląda inaczej, tak jak „wiceprezes kosmodromu ukradł 100 mln, a więc…” Mówię tu o schemacie idealnym.

Wróćmy do naszej idealnej skóry. Przecież w tym zadaniu musi rozwiązać te same kwestie - zatwierdzenie lub zakaz transakcji. I może to zrobić! Dopiero teraz on sam będzie w stanie jednocześnie zastąpić wszystkie szczeble zarządzania. Przecież jeśli zastępując ministra zatwierdzi dużą transakcję na szczeblu ministerialnym, to jego decyzję należy uznać za słuszną. I obejmuje analizę całej dalszej dystrybucji dużej transakcji aż do zapłaty IP Pupkinowi za naprawę ganku szpitala psychiatrycznego w Kineszmie.

Tak więc cały łańcuch urzędników, którzy są zobowiązani do zatwierdzania transakcji niższych poziomów wynikających z pierwszego, można bezpiecznie zastąpić tym samym algorytmem AI. Problem został już rozwiązany, aż do dna. Nasza sztuczna inteligencja nie musi nawet być używana do wymiany całego łańcucha, sztuczna inteligencja po prostu znosi jej potrzebę. Jego decyzja jest prawdziwa, bo słuszna. I natychmiast zawiera rozwiązania dla całego fraktala.

Uwaga. Każdy podwładny urzędnik w naszym prawdziwym świecie może być mądrzejszy niż wyższy. Wtedy będzie sabotował decyzje szefa, a potem mu pomoże. Tak jest zawsze. Wszyscy dotychczasowi urzędnicy zajmują miejsca swoich byłych przełożonych, z wyjątkiem poziomu startowego. Ale w tym przypadku konkurencja nie wchodzi w rachubę. Jeden iskin sam decyduje o wszystkim w całym łańcuchu, nie może sobie zaprzeczać.

Ponadto. W naszym systemie zarządzania istnieją sądy, którym nadaliśmy uprawnienia do anulowania wszelkich naszych transakcji i przeprowadzenia własnych, niezależnie od naszej opinii na ich temat. (Wsadzenie zabójcy do więzienia jest również transakcją związaną z regułami. Sędzia jest tutaj urzędnikiem, który zatwierdza lub anuluje transakcję, która przychodzi do niego zgodnie z zaleceniami z czarnej skrzynki). Jeśli nasz idiota jest dobry, to jest lepszy od urzędników, ponieważ powierzyliśmy mu zatwierdzenie lub anulowanie transakcji za nich (dla nas). Więc jest lepszy od sędziów. W przeciwnym razie okazuje się, że decyzje iskina mogą być kwestionowane i anulowane przez ludzi. A jeśli ludzie to zaakceptują, to przyznają, że AI jest gorsza od ludzi. Na jakiej więc podstawie zastępuje urzędników?

Wniosek. Iskin też nie będzie oceniany. Jeszcze raz. Jeśli wy, ludzie, napisaliście swój najlepszy algorytm, rozpoznaliście go tak dobrze, że daliście mu władzę nad sobą, to nie możecie napisać jeszcze lepszego algorytmu, aby oceniał decyzje pierwszego. Umieścisz swój najlepszy algorytm zarówno jako menedżer, jak i sędzia. Dokładniej, sędziowie po prostu znikną. Będziesz musiał dać tej sztucznej inteligencji całkowitą władzę nad tobą.

Nawiasem mówiąc, oryginalną czarną skrzynkę, z której do ISK trafiają początkowe dane do kontroli, można również zdigitalizować. A nawet musi zostać zdigitalizowany. Skonsolidowany budżet powinien być najlepiej dopasowany. I on też to robi.

Jeszcze chwila. A może postawić człowieka nad osobą, która będzie kontrolowała jego decyzje, aby nie doszło do błędów, które mogą wystąpić z powodu jego nieludzkiego charakteru? - Wtedy wszyscy urzędnicy zachowają swoje stanowiska i władzę. Otrzymają również prawo do anulowania transakcji zatwierdzonych przez ISK lub do zatwierdzenia anulowanych. Niestety, to nie wygląda na prawdziwe. Iskin dostarczy wydruk uzasadnienia swojej decyzji. A człowiek nie będzie w stanie obalić logiki formalnej swoimi uczuciami lub zainteresowaniami. Nawet w tym przypadku, jeśli żyjący urzędnik jest przywiązany do każdego przejawu (w rzeczywistości pojedynczego) czynu, nie będzie mógł mu się oprzeć.

Przepraszam za zamieszanie, myśli jest dużo, a długość tekstu nieodwracalnie rośnie.

Po włączeniu ISK nastąpi całkowite załamanie. Nie, rozumiem, że na początku jeżdżą nim w trybie testowym. Ale to będzie profanacja, bo wtedy trzeba będzie naśladować całe społeczeństwo, ze wszystkimi jego powiązaniami jako całości, a nie uproszczony model, ale cyfrowe młocarnie nie mogą tego zrobić.

Następnie zostanie uruchomiony w trybie ograniczonym, na warunkowym Terytorium Perm. Błędy, debugowanie, nowe wydanie i produkcja?

Ale prędzej czy później czerwona wstążka zostanie przecięta i ludzie będą mogli sterować autem na pełnej mocy (z ręką na przełączniku).

A czy wiesz, co się stanie? Iskin całkowicie zakończy wszystkie transakcje. Logika „jeśli-to” zderzy się z milionami norm regulacyjnych w obecnym prawodawstwie, które są ze sobą sprzeczne dziesiątki tysięcy razy. Finita. Nasze pociągi staną, opłata za puszkę saury w supermarkecie nie zadziała. Każdy zostanie natychmiast oskarżony o kilka przestępstw i przestępstw, które mogą zostać wysłane do władz, ale wszyscy ludzie we władzach będą podlegać natychmiastowemu zwolnieniu i procesowi. Orzeczenia sądu wydadzą powództwo niezwłocznie. Wielka randka, wszystko o tobie jest napisane. Dobra, to są małe rzeczy. Ale nie będą mogli też przelać twojej pensji, bo urząd płaci podatki, a wagon na ciebie nakłada grzywnę.

Przesadzasz? Nie. Pierwsze uruchomienie (z ręką na włączniku) będzie kontrolowane, test drugi, test dwadzieścia dwa… A pewnego dnia zostanie włączony w pełni, jakby przeszedł pełny cykl testów. A potem… A my zwolnimy urzędników, wolontariusze uratują sytuację.

Czy da się uniknąć tak smutnych konsekwencji? - Oczywiście możesz spróbować. Aby to zrobić, trzeba zrobić kilka rzeczy. Zniszcz 99% przepisów, pozostałe 1% poddaj recyklingowi bez wylewania dziecka wodą. (Takie rzeczy są zwykle robione po pełnoprawnej rewolucji z pełnoprawną wojną domową. Jak to zrobić w czasie pokoju - nie mam pojęcia.) Ponadto moralność powinna zostać przerobiona. Z punktu widzenia kradzieży paczki papieru z biura (lub zdrady żony) jest to albo całkowicie akceptowalne (odzwierciedlone w prawie), albo całkowicie wiąże się z ograniczeniem czasowym. Ta moralność musi zostać przerobiona w umysłach społeczeństwa. W przeciwnym razie zacznie przecinać kable optyczne, co jest tanie, proste i skuteczne przeciwko AI. Inną opcją jest rzucenie tej skóry na prawdopodobnego partnera, aby sam sobie pociął ręce. I oczywiście klasy wyższe nie powinny stać się niewygodne. Jeśli nie będą w stanie, wykorzystają to jako ostatnią szansę.

Nie próbuję cię przekonywać do awarii komputerów. Nigdzie nie odejdziemy z iskina. Dogoni nas, będziemy musieli z nim walczyć. Spróbujmy zrozumieć, z czym (z kim) musimy walczyć z naszym przeznaczeniem.