Co się stanie, jeśli samochody przewyższają ludzi w inteligencji? Czy pomogą nam lub zniszczyć rasę ludzką? Czy możemy zignorować problem rozwoju sztucznej inteligencji dzisiaj i poczuć się w pełnym bezpieczeństwie? W swojej książce Nick Bostrom próbuje zrealizować problem pojawiający się przed ludzkością z powodu perspektywy wyglądu superrobiegu i analizować jego odpowiedź. W rosyjskim opublikowanym po raz pierwszy.

* * *

Książka LED Fragment zagraniczny Sztuczna inteligencja. Gradacja. Zagrożenia. Strategia (Nick Bostrom, 2014) Przyznane przez naszego partnera książki - litry.

Rozdział sekundę

Ścieżka do superphanie

Do tej pory, jeśli podejmiesz poziom ogólnego rozwoju intelektualnego, maszyny są absolutnie gorsze od ludzi. Ale pewnego dnia - przy naszym założeniu - umysł samochodu przewyższy umysł osoby. Co będzie naszej drogi od chwili obecnej na ten, który nas oczekuje? W tym rozdziale opisano kilka możliwych opcji technologicznych. Po pierwsze, będziemy spojrzeć na tematy, takie jak sztuczna inteligencja, kompletna emulacja mózgu, poprawa ludzkich zdolności poznawczych, interfejsu neurokomputerów, sieci i organizacji. Następnie oszacujemy wymienione aspekty z punktu widzenia prawdopodobieństwa, czy będą mogli służyć krokom w celu wznoszenia się do superfana. Z kilkoma wariantami ścieżki szansa pewnego dnia dotarła do celu, wyraźnie rośnie.

Wcześniej określają koncepcję superphanu. to każda inteligencja, znacznie przekraczająca możliwości poznawcze osoby właściwie w dowolnych regionach.(87). W następnym rozdziale omówimy bardziej szczegółowo, jakiego rodzaju superfluł, rozkładamy go do komponentów i różnicujemy wszystkie możliwe wcielenia. Ale teraz pozwól sobie ograniczyć do tak wspólnej i powierzchownej charakterystyki. UWAGA W tym opisie nie było miejsca na wdrożenie superphanu w życiu, ani jego kwalifikacjach, czyli, czy jest on obdarzony z subiektywnymi doświadczeniami i doświadczeniem świadomości. Ale w pewnym sensie, zwłaszcza etyczne, pytanie jest bardzo ważne. Jednak teraz odrzucił metafizykę intelektualną (88), zwrócimy uwagę na dwie kwestie: Wymagania wstępne do pojawienia się superphanu i konsekwencji tego zjawiska.

W zależności od naszej definicji program szachowy Deep Fritz nie jest ultra uszkodzony, ponieważ "silny" tylko w bardzo wąskim - gra w szachy to obszar. I mimo to jest bardzo ważne, aby superflum ma swoją specjalizację przedmiotów. Dlatego za każdym razem, gdy możemy porozmawiać o określonym ultra wadliwym zachowaniu, ograniczonym do obszarze tematycznego, będę oddzielnie określił jego określony zakres działalności. Na przykład sztuczna inteligencja, znacznie przekraczająca ludzkie zdolności umysłowe w dziedzinie programowania i projektowania, otrzyma nazwę superinektora inżynieryjnego. Ale do wyznaczenia systemów, ogólnie lepszy od ogólnego poziomu ludzkiej inteligencji - chyba że wskazano inaczej - termin pozostaje superfluzować.

Jak osiągnąć czas, kiedy można się pojawić? W jaki sposób wybierze? Spójrzmy na pewne możliwe opcje.

Sztuczna inteligencja

Drogi Czytelniku, nie powinieneś oczekiwać od tego rozdziału koncepcyjnego rozwoju pytania, jak stworzyć uniwersalną lub silną, sztuczną inteligencję. Projekt jego programowania po prostu nie istnieje. Ale nawet jeśli jestem szczęśliwym właścicielem takiego planu, z pewnością nie będę publiczny w mojej książce. (Jeśli przyczyny tego nie są oczywiste, mam nadzieję, w kolejnych rozdziałach będę w stanie wyraźnie wyjaśnić własną pozycję).

Jednak dzisiaj można rozpoznać niektóre z obowiązkowych cech nieodłącznych w podobnym inteligentnym systemie. Jest oczywiste, że zdolność dowiedzenia się, w jaki sposób niezbywalna właściwość jądra systemowego powinna być układana podczas projektowania, a nie dodawana jako późna uwaga później w postaci rozszerzenia. To samo dotyczy zdolności do skutecznego pracy z niepewnymi i probabilistycznymi informacjami. Najprawdopodobniej wśród głównych modułów współczesnego AI muszą zostać wydobywcze przydatna informacja Z danych z czujników zewnętrznych i wewnętrznych i konwertuje pojęcia na elastyczne reprezentacje kombinatoryczne do dalszego wykorzystania w procesach psychicznych na podstawie logiki i intuicji.

Pierwsze systemy klasycznej sztucznej inteligencji nie miały na celu uczenie się, pracować w warunkach niepewności i tworzenia koncepcji - prawdopodobnie ze względu na fakt, że w tamtych czasach nie opracowano odpowiednie metody analizy. Nie można powiedzieć, że wszystkie podstawowe idee AI są zasadniczo innowacyjne. Na przykład pomysł użycia szkolenia jako sposobu opracowania prostego systemu i doprowadzenie do poziomu ludzkiego wyrażono również przez Alan Turing w 1950 r. W artykule "Sprzęt komputerowy i intelekt", gdzie przedstawił swoją koncepcję "Machine-Child ":

Dlaczego, zamiast próbować stworzyć program naśladowanie dorosłego umysłu, nie próbuj tworzyć programu, który naśladowałby umysł dziecka? W końcu, jeśli umysł dziecka otrzymuje odpowiednią edukację, staje się umysłem dorosłego (89).

Przewidywanie przewidywalne, że tworzenie "samochodu-dziecka", wymagany będzie proces iteracyjny:

Jest mało prawdopodobne, że będziemy mogli zdobyć dobry "samochód" od pierwszej próby. Konieczne jest przeprowadzenie eksperymentu na temat nauki tego rodzaju samochodów i dowiedzieć się, jak można się uczyć. Następnie trzymaj ten sam eksperyment z inną maszyną i zainstaluj, który z dwóch samochodów jest lepszy. Istnieje oczywisty związek między tym procesem a ewolucją przyrody ...

Niemniej jednak ma nadzieję, że ten proces przepłynie szybciej niż ewolucja. Przetrwanie najbardziej przystosowanych jest zbyt wolny sposób na ocenę zalety. Eksperymentator, stosując moc inteligencji, może przyspieszyć proces oceny. Równie ważne jest, aby nie ogranicza się do stosowania tylko losowych mutacji. Jeśli eksperymentator może prześledzić przyczynę pewnej wady, prawdopodobnie jest w stanie wymyślić tego rodzaju mutacji, która doprowadzi do niezbędnej poprawy (90).

Wiemy, że procesy ślepych ewolucyjnych są w stanie prowadzić do pojawienia się wspólnej inteligencji poziomu człowieka - przynajmniej raz już się wydarzyło. Ze względu na prognozowanie procesów ewolucyjnych - to jest programowanie genetyczne, gdy algorytmy są opracowywane i zarządzane przez rozsądny programista - musimy uzyskać podobne wyniki o znacznie większej wydajności. Przewiduje się na tym przepisie, na czym opiera się, w zależności od wielu naukowców, wśród których Filozof David Chalmers i Hansa Badacz Mevki (91), twierdząc, że IICH jest nie tylko teoretycznie możliwe, ale praktycznie wdraża w XXI wieku. W swojej opinii, w tworzeniu inteligencji, doceniając względne możliwości ewolucji i myśli ludzkiej, uważamy, że ten ostatni w wielu obszarach jest znacznie lepszy od ewolucji i najprawdopodobniej wkrótce wyprzedzi go w pozostałych. Tak więc, jeśli wywołanie naturalne pojawiło się kiedyś w wyniku procesów ewolucyjnych, wynika z tego, że ludzkie projekty w dziedzinie projektowania i wydarzeń wkrótce będą w stanie przynieść nas do sztucznej inteligencji. Na przykład płótno napisał w 1976 roku:

Istnienie kilku przykładów inteligencji, które pojawiły się w warunkach tego rodzaju ograniczeń, musi zezwolić na nas zaufanie, że możemy wkrótce osiągnąć to samo. Sytuacja jest podobna do historii tworzenia maszyn, które mogą latać, choć są one cięższe powietrze: ptaki, nietoperze i owady wykazały tę okazję, zanim osoba wykonała samolot (92).

Jednak należy uważać, aby wnioski zbudowane na podobnym łańcuchu rozumowania. Oczywiście, nie ma wątpliwości, że lot nieludzkich istot żywych, które są cięższe niż powietrze, stały się możliwe w wyniku ewolucji znacznie wcześniejszych ludzi, udało się z pomocą mechanizmów. Na wsparciem tego można zapamiętać inne przykłady: systemy hydrokarizacji; magnetometryczne systemy nawigacji; Środki chemiczne wojenności; Czujniki zdjęć i inne urządzenia z charakterystyką mechaniczną i kinetyczną wydajności. Jednak z tym samym sukcesem wymieniliśmy obszary, w których skuteczność wysiłków ludzkich jest nadal bardzo daleko od skuteczności procesów ewolucyjnych: morfogenezy; mechanizmy samozdozolujące; Obrona immunologiczna. Tak więc agregacja Agele wciąż nie jest "inspiruje zaufanie do nas", że wkrótce zostanie stworzony ". W najlepszym razie górna granica złożoności stworzenia inteligencji może być ewolucją rozsądnego życia na Ziemi. Ale ten poziom nie boi się obecnych możliwości technologicznych ludzkości.

Kolejnym argumentem na rzecz rozwoju sztucznej inteligencji zgodnie z modelem procesu ewolucyjnego jest możliwość uruchomienia algorytmów genetycznych na dość potężnych procesorów i ostatecznie osiągnąć wyniki współmierne do tych, które przybyły w trakcie ewolucji biologicznej. W ten sposób ta wersja argumentu obejmuje poprawę AI przez określoną metodę.

Jak ważne jest zatwierdzenie, że wkrótce do dyspozycji jest to, że zasoby obliczeniowe wystarczy do odtworzenia odpowiednich procesów ewolucyjnych, w wyniku którego powstała ludzka inteligencja? Odpowiedź zależy od następujących warunków: po pierwszych dziesięcioleciach będzie znaczny postęp technologii komputerowych; Po drugie, wymagana będzie moc obliczeniowa, dzięki czemu mechanizmy uruchamiania algorytmów genetycznych są podobne do wyboru naturalnego prowadzącego do pojawienia się osoby. Należy powiedzieć, że wnioski, do których przychodzimy na łańcuch naszego rozumowania, są niezwykle niepewne; Ale pomimo takiego zniechęcającego faktu, nadal wydaje się być istotne, aby spróbować dać przynajmniej przybliżoną szacunkową tej wersji (patrz Wkładka 3). W przypadku braku innych możliwości nawet orientacyjne obliczenia przyciągną uwagę na ciekawe nieznane wartości.

Dolna linia jest taka, że \u200b\u200bmoc obliczeniowa wymagana tylko w celu odtworzenia pożądanych procesów ewolucyjnych, które doprowadziły do \u200b\u200bpojawienia się ludzkiej inteligencji, jest praktycznie nieosiągalny i pozostanie sam, nawet jeśli prawo Moore'a nadal działa kolejny stulecie (patrz rys. 3 poniżej). Istnieje jednak dość dopuszczalne wyjście: bardzo wpłyniemy na skuteczność, gdy zamiast powtórzeń naturalnych procesów ewolucyjnych opracowujemy wyszukiwarkę koncentrującej się na tworzeniu inteligencji, jazda na rowerze różnorodność oczywistych korzyści w porównaniu z doborem naturalnym. Oczywiście bardzo trudno jest teraz oszacować zysk ilościowy w wydajności. Nie wiemy nawet, co wielkość wielkości wynosi około pięciu lub dwadzieścia pięć. W konsekwencji, jeśli argumentacja zbudowana na modelu ewolucyjnym nie jest prawidłowo opracowana, nie będziemy mogli zaspokoić ich oczekiwań i nigdy nie wiemy, jak trudna jest droga sztucznej inteligencji poziomu ludzkiego i jak długo będziemy oczekiwać jego wyglądu.

Pole 3. Ocena wysiłków na rzecz odtworzenia procesu ewolucyjnego

Nie wszystkie osiągnięcia antropogenezy, odnoszące się do ludzkiego umysłu, są wartością dla nowoczesnych specjalistów pracujących nad problemem ewolucyjnego rozwoju sztucznej inteligencji. Tylko niewielka część tego, co wydarzyło się w wyniku naturalnego wyboru na Ziemi. Na przykład problemy, których ludzie nie mogą, ale wziąć pod uwagę wynikiem tylko drobnych wysiłków ewolucyjnych. W szczególności, ponieważ możemy nakarmić nasze komputery z energią elektryczną, nie musimy ponownie wymyślić cząsteczek systemu ekonomii energetycznej komórki, aby stworzyć rozsądne maszyny - aw rzeczywistości ewolucja molekularna mechanizmu metabolicznego, jest całkiem możliwe, Znaczna część całkowitej siły selekcji naturalnej, która była dostępna do ewolucji utylizacji w całej historii Ziemi (93).

Istnieje koncepcja, że \u200b\u200bkluczem do stworzenia AI jest strukturą układu nerwowego, który pojawił się mniej niż miliard lat temu (94). Jeśli weźmiemy tę pozycję, liczba "eksperymentów" niezbędnych do ewolucji znacznie się zmniejszy. Dziś istnieją w przybliżeniu (4-6) × 1030 prokariotów na świecie, ale tylko 1019 owadów i mniej niż 1010 przedstawicieli rasy ludzkiej (przy okazji, ludność była mniejsza niż rewolucja neolityczna w przeddzień) (95 ). Zgadzam się, te liczby nie są takie przerażające.

Jednak dla algorytmów ewolucyjnych nie tylko wymagane jest różnorodne opcje, ale także ocena adaptacji każdej opcji jest zazwyczaj najbardziej kosztowym składnikiem z punktu widzenia zasobów obliczeniowych. W przypadku ewolucji sztucznej inteligencji symulacja rozwoju neuronów jest wymagana do oceny adaptacji, a także zdolność do nauczania i wiedzy. Dlatego lepiej nie spojrzeć na całkowitą liczbę organizmów ze złożonym układem nerwowym, ale oszacować liczbę neuronów w organizmach biologicznych, które musimy być symulowane, aby obliczyć funkcję docelowej ewolucji. Gruba ocena może być wykonana przez kontaktowanie owadów, które dominują biomasy (dla ułamka mrówek 18-20%) (96). Objętość mózgu owadów zależy od wielu czynników. Owad jest większy i społeczny (to znaczy istnieje styl życia publicznego), tym większy jego mózg; Na przykład pszczoła jest nieco mniejsza niż 106 neuronów, neurony Drosophila - 105, mrówki z jego 250 tysięcy neuronów (97). Mózg najbardziej mniejszych owadów zawiera tylko kilka tysięcy neuronów. Proponuję zatrzymać się na średniej wartości (105) i zrównawał się do Drosophile wszystkich owadów (w sumie w całym świecie - 1019), to całkowita liczba ich neuronów będzie 1024. Dodamy równomierny rząd wielkości Ze względu na skorupiaki, ptaki, gadów, ssaków itp. - I dostajemy 1025. (porównujemy to, że przed pojawieniem się rolnictwa na planecie było mniej niż 107 osób, a to było około 1011 neuronów - to znaczy Łącznie wszystkie neurony wyniosły mniej niż 1018, chociaż ludzki mózg zawarte - i zawiera - znacznie więcej synapsów.)

Koszty obliczeniowe modelowania jednego neuronu zależą od pożądanego stopnia szczegółowego modelu. W przypadku niezwykle prostego modelu neuronu w czasie rzeczywistym, około 1000 operacji pływających punktów na sekundę (zwany dalej klapkami). W przypadku elektrycznego i fizjologicznego realistycznego modelu Hodgkin - Huxley, wymagane są 1200 000 klocków. Bardziej złożony multicomponent model neuronu dodałby dwa lub trzy rzędy wielkości, a model wyższego poziomu, który działa z systemami neuronowymi wymaga dwóch do trzech razy mniej niż jedna operacja neuronowa niż proste modele (98). Jeśli musimy symulować 1025 neuronów ponad miliard lat ewolucji (jest to więcej niż długość istnienia systemów nerwowych w ich obecnym formularzu) i pozwolimy komputerom pracować nad tym zadaniem przez rok, a następnie wymagania ich Moc obliczeniowa spadnie w zakresie 1031-1044 klap. Dla porównania, komputerowy komputer na świecie Chiński Tianhe-2 (na wrzesień 2013 r.) Jest w stanie wydać tylko 3,39 × 1016 klap. W ostatnich dziesięcioleciach zwykłe komputery wzrosły ich produktywność przez rzędu około raz na 6,7 \u200b\u200blat. Nawet jeśli moc obliczeniowa staje się dorośnięta przez prawo Moore przez całość stulecia, będzie to niewystarczające, aby przezwyciężyć istniejącą szczelinę. Wykorzystanie bardziej wyspecjalizowanych systemów obliczeniowych lub wzrost czasu obliczania jest w stanie zmniejszyć wymagania mocy tylko kilku zamówień.

Prawdopodobnie wyeliminowanie tego rodzaju nieefektywności pomoże zaoszczędzić kilka rzędów popytu na wymaganą moc w 1031-1044 klapach, obliczone wcześniej. Niestety trudno powiedzieć, ile to jest. Trudno nadać nawet przybliżoną rating - możesz tylko zgadnąć, czy będzie to pięć rzędów wielkości, dziesięć lub dwadzieścia pięć (101).

Figa. 3. Wykonanie komputerów ciężkich. W dosłownym sensie nazywany jest "Aktem" Moore Act "jest obserwacja, zgodnie z którą liczba tranzystorów umieszczanych na zintegrowanym krysztale obwodu podwaja się mniej więcej co dwa lata. Jednakże prawo jest często uogólnione, wierząc, że inne wskaźniki wydajności również rosną na wykładniku. Nasz wykres pokazuje zmianę w czasie szczytowej prędkości najwyższych komputerów na świecie (zgodnie z logarytmiczną skalą pionową). W ostatnich latach prędkość kolejnych obliczeń przestała rosnąć, ale poprzez dystrybucję obliczeń równoległych, całkowita liczba operacji nadal wzrasta wraz z poprzednim tempem (102).

Istnieje kolejna komplikacja związana z czynnikami ewolucyjnymi przedstawionymi jako ostatni argument. Problem polega na tym, że nie jesteśmy w stanie obliczyć - nawet bardzo w przybliżeniu - górna granica trudności uzyskania inteligencji przez ewolucyjny sposób. Tak, był rozsądny życie na ziemi, ale z tego faktu nie powinien jeszcze nie, jakby procesy ewolucji o wysokim stopniu prawdopodobieństwa prowadzą do powstania inteligencji. Taki wniosek byłby w korzeniu błędu, ponieważ tak zwany efekt obserwacji podczas wyboru nie jest brany pod uwagę, co oznacza, że \u200b\u200bwszyscy obserwatorzy są na planecie, gdzie powstała rozsądna żywotność, bez względu na to, jak prawdopodobne lub niewiarygodnie takie wydarzenie na każdej innej planecie. Przypuśćmy, że wydaje się rozsądne życie, oprócz systematycznych błędów wyboru naturalnego, wymagana jest ogromna kwota udane obciążenia - Tyle, że rozsądne życie pojawiło się tylko na jednej z 1030 planet, gdzie są proste geny replikatorów. W tym przypadku naukowcy, uruchamianie algorytmów genetycznych w próbie reprodukcji utworzonej ewolucji, może stawić czoła, że \u200b\u200bkonieczne będzie wykonanie około 1030 iteracji, zanim znajdą kombinację, w której wszystkie elementy są poprawnie współpracowani. Wydaje się, że jest to dość zgodne z naszą obserwacją, że życie powstało i opracowało tutaj na ziemi. Przez omijając tę \u200b\u200bbarierę epistemologiczną, jest częściowo ostrożnie i do pewnego stopnia niewygodne ruchy logiczne - analizowanie przypadków zrównoważonej ewolucji cech związanych z inteligencją i z uwzględnieniem wpływu obserwacji podczas wyboru. Jeśli naukowcy nie biorą pracy w imieniu takiej analizy, w przyszłości nikt nie będzie musiał ocenić maksymalnej wartości i dowiedzieć się, jak szacunkowa górna granica wymaganej mocy obliczeniowej do odtworzenia ewolucji intelektu (patrz Wstaw 3) może być poniżej trzydziestego zamówienia (lub inne jak duże) (103).

Pozwól nam zwrócić się do następnej opcji, aby osiągnąć nasz cel: Argument na rzecz wykonalności ewolucji sztucznej inteligencji jest działalność ludzkiego mózgu, która odnosi się do obu podstawowego modelu dla AI. Różne wersje tego podejścia różnią się tylko przez reprodukcję - jak dokładnie proponuje się naśladować funkcje biologicznego mózgu. Na jednym biegunie reprezentującego rodzaj "gry naśladującym", mamy koncepcję pełna emulacja mózgu.Oznacza to, że naśladują modelowanie mózgu (wrócimy trochę później). Na drugim biegunie są technologie, zgodnie z którymi funkcjonalność mózgu służy jedynie punkt wyjścia, ale rozwój modelowania niskiego poziomu nie jest planowane. Ostatecznie podejdziemy do zrozumienia ogólnej idei działalności mózgu, która jest ułatwiona przez postęp neurobiologii i psychologii poznawczej, a także ciągłego doskonalenia instrumentalnego i sprzętu. Nowa wiedza bez wątpienia stała się przewodnikiem do dalszej pracy z AI. Znamy już przykład AI, który pojawił się w wyniku modelowania mózgu, to sieci neuronowe. Kolejny pomysł podjęty z neurobiologii i przeniesienia do uczenia się maszynowego jest hierarchiczną organizacją percepcji. Badanie szkolenia z wzmocnieniami było spowodowane (przynajmniej częściowo) ważną rolę, jaką ten temat odgrywa w teoriach psychologicznych opisujących zachowanie i myślenie zwierząt, a także technik szkoleniowych ze wzmocnieniem (na przykład algorytm TD). Obecnie szkolenie ze wzmocnieniem jest szeroko stosowane w systemach AI (104). W przyszłości takie przykłady na pewno będą więcej. Ponieważ zestaw podstawowych mechanizmów funkcjonowania mózgu jest bardzo ograniczony - w rzeczywistości ich bardzo mała ilość - wszystkie te mechanizmy będą prędzej lub później zostaną odkryte dzięki stałym sukcesem neurobiologii. Jednakże możliwe jest, że nawet wcześniejsze wejdzie na wykończenie rodzaju podejścia hybrydowego, łącząc modele opracowane z jednej strony, oparte na działaniach ludzkiego mózgu, z drugiej, wyłącznie na podstawie technologii sztucznej inteligencji . Nie jest wcale niezbędne, że wynikowy system musi przypominać mózg we wszystkim, nawet jeśli zostanie utworzony, a niektóre zasady jego aktywności zostaną użyte.

Ludzką aktywność mózgu jako podstawowy model jest silnym argumentem na rzecz wykonalności tworzenia i dalszej rozwijania sztucznej inteligencji. Jednak nawet najbardziej potężny argument. Nie doprowadzi nas do zrozumienia przyszłych terminów, ponieważ trudno jest przewidzieć, gdy nastąpi to otwór w neurobiologii. Możemy tylko powiedzieć jedno: Głębsze do przyszłości, patrzymy, im większe prawdopodobieństwo, że tajemnice funkcjonowania mózgu zostaną ujawnione dość w pełni dla przykładu wykonania sztucznych systemów wywiadowczych.

Naukowcy pracujący w dziedzinie sztucznej inteligencji przylegają do różnych punktów widzenia, w jaki sposób obiecujące jest podejście neuromorficzne stosunkowo z technologiami opartymi na w pełni kompozytowych podejść. Lot ptaków wykazał fizyczną możliwość wyglądu mechanizmów latających jest cięższy niż powietrze, które ostatecznie doprowadziło do budowy samolotów. Jednak nawet pierwsze samoloty podniesione w powietrze nie dokonały skrzydeł. Jaka ścieżka poszła rozwój sztucznej inteligencji? Pytanie pozostaje otwarte: w sprawie zasady prawa aerodynamiki, trzymając ciężkie mechanizmy żelaza w powietrzu - to znaczy, ucząc się od dzikiej przyrody, ale nie naśladując go bezpośrednio; Zasada tego, czy urządzenie silnika spalania wewnętrznego jest, czyli bezpośrednio skopiując działania sił naturalnych.

Koncepcja turowania na rozwój programu odbierającego b omamy bardziej koszt wiedzy przez uczenie się, a nie w wyniku zadania danych źródłowych, ma również zastosowanie do utworzenia sztucznej inteligencji - zarówno podejścia neuromorficznego, jak i kompozytowego.

Zmiana koncepcji Turinga "Machine-Child" była idea embrionego AI (105). Jednakże, jeśli "Car-Child", jak przedstawiono przez Turing, miał mieć stosunkowo stałą architekturę i rozwijać swój potencjał z powodu akumulacji zawartość, zarodek II będzie bardziej złożonym systemem, samodoskonaleniem architektura. Na wczesnym etapie egzystencji embrion rozwija się głównie poprzez zbieranie informacji, działających przez metodę prób i błędu bez pomocy programatora. "Razzłow", musi uczyć się niezależnie nie zgadzać się Zasadami ich pracy, aby móc zaprojektować nowe algorytmy i struktury obliczeniowe, które zwiększają jego skuteczność poznawczą. Wymagane zrozumienie jest możliwe tylko w przypadkach, w których zarodek lub w wielu obszarach osiągnęły dość wysoki ogólny poziom rozwoju intelektualnego lub w osobnych obszarach tematycznych - powiedzmy, cybernetykę i matematykę - przezwyciężyć pewien inteligentny próg.

To prowadzi nas do innej ważnej koncepcji o nazwie "Recursive Self-Improvent". Udane zarodki musi być zdolne do ciągłego samorozwoju: Pierwsza wersja tworzy lepszą wersję samego siebie, co jest znacznie mądrzejsze niż oryginał; Z kolei ulepszona wersja pracuje na jeszcze bardziej ulepszonej wersji i tak dalej (106). W pewnych warunkach rekurencyjny proces samodoskonalenia może trwać sporo czasu i ostatecznie prowadzić do wybuchowego rozwoju sztucznej inteligencji. To na uwadze wydarzenie, podczas którego, w krótkim czasie, ogólna inteligencja systemu rośnie ze stosunkowo skromnym poziomem (ewentualnie w wielu aspektach, oprócz programowania i badań w dziedzinie AI, nawet niższej niż człowiek) do super priorytetowego, radykalnie lepszego poziomu ludzkiego. W czwartym rozdziale wrócimy do tej perspektywy, bardzo ważne we własnej wartości, a bardziej szczegółowo Dynamika rozwoju wydarzeń.

Należy pamiętać, że taki model rozwoju obejmuje niespodzianki. Próby tworzenia uniwersalnej sztucznej inteligencji mogą z jednej strony, z jednej strony, aby zakończyć całkowitą awarię, a z drugiej, doprowadzi do ostatniego brakującego elementu krytycznego - po czym Germin stanie się zdolny do zrównoważonej rekurencyjnej samodzielnej poprawy.

Przed zakończeniem tej części rozdziału chciałbym podkreślić inną rzecz: nie jest wcale niezbędne, że sztuczna inteligencja jest porównywalna do ludzkiego umysłu. W pełni przyznaję, że AI stanie się całkowicie "obcymi" - najprawdopodobniej się wydarzy. Można oczekiwać, że architektura poznawcza AI będzie się bardziej różnić od systemu poznawczego osoby; Na przykład, we wczesnych etapach, architektura poznawcza będzie miała zupełnie inne silne i słabe znaki (chociaż zobaczymy dalej, AI uda nam się pokonać początkowe wady). Ponadto celowe systemy AI mogą nie mieć nic wspólnego z systemem celów ludzkości. Nie ma powodu, aby argumentować, że AI średniego będzie zacznie prowadzić ludzkie uczucia, takie jak miłość, nienawiść, duma, - za tak trudną adaptację, zajmie ogromną ilość drogich prac, ponadto Wygląd takiej okazji w AI należy uznać za bardzo ostrożnie. Jest jednocześnie I. wielki problemi wielkie możliwości. Wrócimy do motywacji AI w dalszych rozdziałach, ale ten pomysł jest tak ważny dla książki, że powinno być utrzymywane w głowie stale.

Pełna emulacja ludzkiego mózgu

W procesie naśladującym naśladowanie mózgu, który nazywamy "pełną emulację mózgu" lub "załadunek umysłu", sztuczna inteligencja jest tworzona poprzez skanowanie i dokładne reprodukcję struktury obliczeniowej biologicznego mózgu. W ten sposób konieczne jest w pełni czerpać inspirację z natury - skrajny przypadek nienarodzonego plagiatu. Aby zakończyć emulację mózgu pomyślnie, wymagana jest wiele pewnych kroków.

Pierwszy etap. Dokona jest dość szczegółowe skanowanie ludzkiego mózgu. Może to obejmować ustalanie mózgu zmarłego przez sposób witryny lub przejście szklane (w wyniku tkanki staje się solidna jako szkło). Następnie jedno urządzenie z tkanką dokonało drobnych sekcji, które są przekazywane przez inną maszynę do skanowania, ewentualnie z mikroskopów elektronicznych. Na tym etapie obraz materiału o specjalnych barwnikach służy do identyfikacji swoich właściwości strukturalnych i chemicznych. Jednocześnie istnieje wiele urządzeń skanujących jednocześnie przetwarzający różne sekcje tkaniny.

Druga faza. Dane źródłowe ze skanerów są ładowane do komputera do automatycznego przetwarzania obrazu, aby zrekonstruować trójwymiarową sieć neuronową, która jest odpowiedzialna za poznanie w biologicznym mózgu. W celu zmniejszenia liczby zdjęć w wysokiej rozdzielczości, która musi być przechowywana w buforze, na etapie można wykonać jednocześnie z pierwszym. Uzyskana karta łączy się z biblioteką modeli neuroscientowych na neuronach różnych typów lub na różnych elementach neuronowych (na przykład, synapsy mogą się różnić). Niektóre wyniki zdjęć skanowania i przetwarzania przy użyciu nowoczesnej technologii są wyświetlane na FIG. cztery.

Koniec fragmentu zapoznania.

O Book.

Ale mamy jedną znaczącą przewagę: pierwszy krok jest za nami. Czy można przejść na sztuczną inteligencję, dzięki czemu ten proces jest kontrolowany i bezpieczny? W tej książce najbardziej kompleksowe ...

O Book.
Książka numer 1 na temat przyszłości sztucznej inteligencji i jej niebezpieczeństw.

Co się dzieje, gdy samochody przekroczą ludzi w inteligencji? Czy pomogą nam lub zniszczyć rasę ludzką? Nick Bostrom w swojej książce umieszcza te pytania i opowiada o przyszłości ludzkości i rozsądnego życia.

Ludzki umysł ma pewne umiejętności, które nie mają innych zwierząt. Jest dla nich, że możemy być wdzięczni za fakt, że nasz widok zajmuje taką dominującą pozycję. Jeśli maszyny przewyższają nasz ludzki mózg pod względem inteligencji, mogą stać się bardzo silne - a nawet wyjść z naszej kontroli. Na przykład istnienie nowoczesnych goryli, zależy od osoby bardziej niż od samych goryla, to samo może się zdarzyć z osobą i nową superintelitą maszynową.

Ale mamy jedną znaczącą przewagę: pierwszy krok jest za nami. Czy można przejść na sztuczną inteligencję, dzięki czemu ten proces jest kontrolowany i bezpieczny? W tej książce najbardziej skomplikowane kwestie naukowe dotyczące przyszłości ludzkości i inteligencji sztucznej są opisane przez przystępny język.

Dla kogo ta książka
Dla wszystkich zainteresowanych sztuczną inteligencją i przyszłością ludzkości.

o autorze
Nick Bostrom jest profesorem na Wydziale Filozofii Uniwersytetu Oxforda, Założyciela I Dyrektora Instytutu Przyszłości Humanity - Interdyscyplinarne Centrum Badawcze, które badają wpływ technologii na możliwość przyszłej globalnej katastrofy. Członkowie Instytutu są najlepszą matematyką, filozofami i naukowcami.

Oprócz filozofii Bosttr specjalizuje się w neurobiologii, logiki matematycznej i fizyce. Jest autorem ponad 200 publikacji naukowych i zwycięzcy Nagrody Eugene R. Gannon nagrody, która co roku przyznawana jest jednym naukowcu na świecie na rzecz osiągnięć w dziedzinie filozofii, matematyki i nauk przyrodniczych.

Nick Bostrom jest najmłodszym przedstawicielem 15 najlepszych list wiodących światowych myślicieli według magazynu Prospect. Jego prace są tłumaczone na 22 języki.

Nick Bostrom to szwedzki filozof, profesor na Uniwersytecie Oxford, współzałożyciel World Transgumanist Association i Dyrektor Instytutu utworzony w 2005 r. W 2005 r. W Oxford. Próbuje sobie sprawę, że problem stojący przed ludzkością z powodu perspektywy wyglądu superphanu. Co się stanie, jeśli samochody przewyższają ludzi w inteligencji? Czy pomogą nam lub zniszczyć ludzkość? Czy możemy zignorować problem rozwoju sztucznej inteligencji dzisiaj i poczuć się w pełnym bezpieczeństwie? Nick Bostrom opisuje złożone pytania naukowe na temat przyszłości ludzkości przystępnej.

Za zgodą wydawnictwa "Mann, Ivanova i Ferber", "Lenta.ru" publikuje fragment z książki Nick Brotroma "sztuczna inteligencja".

Superhraum będzie mógł mieć gigantyczne możliwości zmiany przyszłości zgodnie z jego celami. Ale jakie są te cele? Jakie są aspiracje? Czy nastąpi stopień motywacji superphanu z poziomu jego inteligencji?

Przedstaw dwa teścia. Teza o ortogonalności brzmi (z pewnymi wyjątkami), które można łączyć dowolnego poziomu inteligencji z dowolnym celem, ponieważ inteligencja i cele końcowe są ortogonalne, czyli niezależne, zmienne. Teza na temat konwergencji instrumentalnej stwierdza, że \u200b\u200bultradźwiękowe siły lub agenci - z najszerszą różnorodnością ich surowych celów - mimo to pojawią się podobne cele tymczasowe, ponieważ wszyscy agenci będą mieli takie same przyczyny instrumentalne. Rozważane razem te prace pomogą nam wyraźniej sobie wyobrazić, jakie intencje aktora superphanu.

Komunikacja między inteligencją a motywacją

Książka brzmiała już ostrzeżenie z błędu antropomorfizmu: nie powinno być przewidywane przez właściwości ludzkie na temat możliwości unikalnego środka przemysłowego. Powtórzemy Twoje ostrzeżenie, tylko zastępując słowo możliwość motywacji słowa.

Przed rozwojem dalszej pracy przeprowadzimy małe wstępne dochodzenie na temat tematu nieskończoności całego spektrum możliwych umysłów. W tym abstrakcyjnym prawie kosmicznym przestrzeni możliwego ludzkiego umysłu jest znikoma klastrem.

Wybierz dwóch przedstawicieli rasy ludzkiej, która zgodnie z ogólną opinią diametralnie sprzeciwiają się. Niech to będzie Hannah Rent i Benny Hill. Różnica między nimi, najprawdopodobniej oszacujemy jako maksimum. Ale zrobimy to tylko dlatego, że nasze percepcja jest w całości regulowana przez nasze własne doświadczenie, które z kolei opiera się na istniejących stereotypach ludzkich (do pewnego stopnia, jesteśmy pod wpływem i fikcyjnych postaciach utworzonych ponownie przez ludzką fantazję, aby spełnić to samo Ludzka wyobraźnia).

Jednak zmiana zakresu przeglądu i patrząc na problem dystrybucji umysłu poprzez pryzmat nieograniczonej przestrzeni, będziemy zmuszeni przyznać, że te dwie osobowości są niczym więcej niż wirtualnymi klonami. W każdym razie pod względem charakterystyki układu nerwowego Hannah, czynszu i Benny Hill są w rzeczywistości identyczne.

Przypuśćmy, że mózg i to samo miejsce zostaną umieszczone obok ciszy niektórych muzeów - widząc tę \u200b\u200bekspozycję, natychmiast mówimy, że te dwa należały do \u200b\u200btego samego. Co więcej, który z nas mógł określić, który mózg czynszu Hannah i co - Benny Hill? Jeśli uda nam się zbadać morfologię, a drugi mózg, w końcu bylibyśmy przekonani o ich fundamentalnym podobieństwie: te same płyty architektoniki kory; Te same departamenty mózgu; Ta sama struktura komórki nerwowej mózgu - neuron z neurotransmiotwami tej samej natury chemicznej.

Wbrew faktu, że ludzki umysł jest praktycznie porównywalny z punktu odróżnienia unoszącego się w nieskończonej przestrzeni rzekomego rozsądnego życia, tendencja opracowała tendencję do projektowania właściwości ludzi na wielu różnych esencji obcych i sztucznych rozsądnych systemów. Ten motyw skomentował przekroczenie Eleisera Yudkovsky w tej samej pracy "sztuczny intelekt jako pozytywny i negatywny światowy czynnik ryzyka":

"W czasie rozkwitu fikcja naukowca, raczej tanie nieruchomości, zdjęcia okładki magazynu, na których następny obcy potwór - ludzie są bardziej znani jako "Monster Puchglase" - po raz kolejny deptał kolejne piękno w koniecznie wykonanej sukience - a piękno było naszą, ziemską kobietą.

Wygląda na to, że wszyscy artyści wierzyli, że nie-humanoidalne kosmici z zupełnie inną historią ewolucyjną z pewnością doświadczyłoby atrakcyjności seksualnej dla doskonałych przedstawicieli rasy ludzkiej.<...> Najprawdopodobniej artyści, którzy przedstawili wszystko to nawet nie pytać, a czy gigantyczny chrząszcz byłby wrażliwy na uroki naszych kobiet. W końcu, zgodnie z ich pomysłami, jakąkolwiek nabojską kobietę po prostu jest po prostu atrakcyjna z definicji, czyli, aby doświadczyć jej pragnienia, była integralną linią odważnych przedstawicieli rasy ludzkiej.

Cała artystyczna uwaga została skierowana w kierunku rączkowanej lub rozdarta sukienka, są mniej zmartwione, jak zorganizowana jest świadomość olbrzymich owadów. I był głównym błędem artystów. Nie bądź żucia ubrań, pomyślali, - kobiety nie wyglądałyby tak uwodzicielsko dla potworów Puchalase. Szkoda, że \u200b\u200bsamych kosmitów nie wzięli tego w sensie. "

Być może sztuczna inteligencja z motywującymi motywami będzie jeszcze mniej przypomnieć osobę niż zielona siekalizowana z przestrzeni. Obcych - stworzenia biologiczne (nie więcej niż założenie), które pojawiły się w wyniku procesu ewolucyjnego, z mocy, której można oczekiwać motywacji, do pewnego stopnia typowe dla ewoluujących stworzeń.

Dlatego nic dziwnego, jeśli okaże się, że motywy zachowania rozsądnych obcych są podyktowane dość prostymi interesami: żywność, powietrze, temperaturę, niebezpieczeństwo obrażeń ciała lub już wykonanych obrażeń, zaburzeń zdrowotnych, drapieżnik, seks i potomstwo. Jeśli cudzoziemcy należą do rozsądnego społeczeństwa, mogą rozwijać motywy związane ze współpracą i konkurencją. Podobnie jak my, pokażeli lojalność wobec swojej społeczności, byliby oburzone przez tuneev i kto wie, nie byłby pozbawiony próżności, martwiąc się o ich reputację i wygląd.

Myślące samochody w przyrodzie, w przeciwieństwie do kosmitów, nie ma sensu dbać o takie rzeczy. Jest mało prawdopodobne, że rozważasz sytuację paradoksalną, jeśli pojawią się jakiś AI, którego jedynym celem, na przykład: obliczenie łaski na plażach wyspy Boracay; Aby zrobić numer π i przedstawić go wreszcie w formie zwykłej frakcji dziesiętnej; Określ maksymalną liczbę klipów papeterii w stożek świetlnym przyszłości.

W rzeczywistości jest znacznie łatwiejszy do stworzenia AI, przed którym staną się jednoznaczne cele, a nie narzucić mu naszego systemu wartości, wprowadzenie samochodu właściwości ludzkie i podpowiedzi. Zdecyduj, że jest to trudniejsze: napisanie programu, który mierzy liczbę znaków po przecinku wśród numeru π jest już obliczany i przechowywany w pamięci lub tworzyć algorytm, niezawodnie biorąc pod uwagę stopień osiągnięcia celu absolutnie istotne dla ludzkości, Powiedz, takich jak świat powszechnych korzyści i uniwersalnej sprawiedliwości?

Ile nie jest smutne, ale łatwiej jest osobę napisać kod uproszczony, pozbawiony dowolnej wartości ukierunkowanego zachowania samochodu i nauczyć tego, jak wykonać zadanie. Najprawdopodobniej taki programista wybierze taki los, że programista, który skupi się tylko na pragnienie "wymuszenia pracy AI" i tak szybko, jak to możliwe (programista, oczywiście nie zaniepokojony o tym, co dokładnie ai będzie musiał zrobić, z wyjątkiem tego, że wykazuje oszałamiające rozsądne zachowanie). Wkrótce wrócimy do tego ważnego tematu.

W każdym celu możliwe jest poszukiwanie intelektualne na instrumentalne optymalne plany i strategie. Intelekt i motywacja w poczuciu ortogonalnym. Wyobraź sobie ich w postaci dwóch osi współrzędnych, które zadają wykres, w którym każdy punkt reprezentuje logicznie możliwe inteligentny agent. To prawda, że \u200b\u200bto zdjęcie będzie wymagało kilku wyjaśnień.

Na przykład, dla systemu, który nie jest wyposażony w rozumę, nie można było mieć zbyt złożonej motywacji. Abyśmy mogli powiedzieć z dobrym powodu, że mówią, że taki agent "ma" taki zestaw motywacji - te motywacje powinny być systemem zintegrowanym funkcjonalnym wraz z procesem decyzyjnym, który nakłada pewne wymagania pamięci, obliczenia moc i może poziom inteligencji.

Intelekt zdolny do samodzielnego przekształcenia, najprawdopodobniej obserwuje się ograniczenie charakterystyk dynamicznych. I to mówią: Jeśli uczenie się modyfikuje najbardziej przemyślany samochód nagle doświadcza ostrego pragnienia stać się głupi, raczej szybko przestanie być systemem intelektualnym. Jednak nasze komentarze nie anulują głównej pracy na temat ortogonalności inteligencji i motywacji. Przedstawiam to do rozważenia.

Teza na Orthogonalności

Cele intelektów i końców są ortogonalne: Co najmniej dowolny poziom inteligencji może zasadniczo łączyć się z mniejszym lub mniejszym niż jakiś celowy cel.

Przepis ten może wyglądać kontrowersyjne ze względu na jego pozorne podobieństwo z niektórymi postulatami, chociaż odnosząc się do klasyczna filozofiaAle nadal powodując wiele pytań. Spróbuj postrzegać tezę ortogonalności w jej węższym znaczeniu - a następnie wydaje się dość niezawodne.

Uwaga, teza ortogonalności mówi o racjonalności lub zdrowiu, ale wyłącznie o inteligencji. Pod intelektu rozumiemy umiejętności prognozowania, planowania i porównywania celów i funduszy jako całości. Instrumentalna skuteczność poznawcza staje się szczególnie ważną funkcją, gdy zaczynamy rozumieć możliwe konsekwencje wyglądu sztucznego superphanu. Nawet jeśli używasz słowa Rational Słowo w takim sensie, co eliminuje rozpoznawanie racjonalnego środka ultra-napięcia, licząc maksymalną liczbę klipów, nie wyeliminuje to obecności nierozstrzygłych zdolności do instrumentalnego myślenia, umiejętności, które miałyby Ogromny wpływ na nasz świat. Przewidywalność z powodu projektu. Jeśli możemy założyć, że programiści są w stanie opracować system kierowania nadmiernym agentem, tak że konsekwentnie dąży do osiągnięcia celu podawanego przez jego twórców, wtedy jesteśmy w stanie dokonać co najmniej jednej prognozy: ten agent osiągnie swój cel. Ponadto będzie bardziej rozsądny środek, z większą pomysłowością intelektualną, zacznie się do tego dążyć. Dlatego, nawet przed stworzeniem agenta, możemy przewidzieć coś o jego zachowaniu, gdyby znali coś o jego twórców i cele, które zamierzali go zainstalować.

2. Przewidywalność z powodu dziedziczenia. Jeśli prototyp inteligencji cyfrowej bezpośrednio obsługuje ludzki umysł (co jest możliwe przy całkowitej emulacji ludzkiego mózgu), wtedy motywy ludzkiego prototypu mogą być nieodłączne w inteligencji cyfrowej. Taki agent może zachować niektóre z nich nawet po tym, jak jego zdolności poznawczych będzie tak bardzo rozwinąć, że stanie się superphanem. Ale w takich przypadkach należy zachować ostrożność. Cele agenta można łatwo zniekształcić w procesie załadunku danych prototypu lub podczas ich dalszego przetwarzania i poprawy - prawdopodobieństwa takiego rozwoju zależy od organizacji samej procedury emulacji.

3. Przewidywalność ze względu na obecność zbiegłych powodów instrumentalnych. Nawet nie wiedząc szczegółowo celów końcowych agenta, jesteśmy w stanie dokonać pewnych wniosków o jego bliższe cele, analizując uzasadnienie instrumentalne najbardziej zróżnicowanych celów końcowych z szerokim wyborem sytuacji. Im wyższe umiejętności poznawcze agenta, tym bardziej przydatne to metoda prognozowania staje się, ponieważ bardziej rozsądny środek jest, tym większe prawdopodobieństwo, że uznaje prawdziwe przyczyny instrumentalne jego działań i będzie działać tak, że w jakiejkolwiek prawdopodobnej sytuacji będzie osiągnąć swoje cele. (W celu właściwego zrozumienia należy zauważyć, że uzasadnienie instrumentalne, że sam agent stwierdzi, że sam agent zostanie znaleziony tylko w celu osiągnięcia bardzo wysokiego poziomu inteligencji, - to sprawia, że \u200b\u200bzachowanie nadmiernego środka mniej przewidywalne.)

8 Wspólny

Recenzja Getabstract.

Według Oxford Futurolog Nick Bostoma, sztuczna inteligencja może być narzędziem zapewnienia bezpieczeństwa, dobrobytu gospodarczego i rozwoju intelektualnego, ale ludzkość może nie być w stanie zrealizować pełnego potencjału tego narzędzia. Bostrom krok po kroku naraża krytykę charakterystycznych błędów ludzkiej postrzegania AI, i jest uczucie, że ludzie nie mają środków, ani wyobraźni, aby zrozumieć przejście ze świata, w którym dominuje osoba, do świata, który grozi lub kto już zniechęcił pewną istotę, posiadając superphan. Bostromaster opisuje, w jaki sposób może wystąpić takie superflum, ponieważ zamieni się w Wszechmogący "Singleton" i jakie zagrożenie będzie obecne. Na przykład, co się wydarzy, pyta, czy ta AI rozwija się w takim stopniu, że utworzy jeden rząd światowy, który nie będzie prowadzony przez tradycyjne zasady etyczne? Pouczający, nasycony odnośnikami do różnych źródeł, książka monituje czytelnika do myślenia o wielu nieznanych. Argumenty dotyczące praw autorskich są zbudowane na analizowaniu całej gamy możliwych scenariuszy przyszłości. To głębokie badanie zostało zaprojektowane przede wszystkim dla czytelników doświadczających szczególnych zainteresowań w temacie. getabstract. Zaleca polityków, futurologów, studentów, inwestorów, filozofów i wszystkich, którzy odzwierciedlają na wysokich technologiach.

Z krótkiej treści książki dowiesz się:

• Ponieważ technologia ewoluuje, znany jako "sztuczna inteligencja";
• Że naukowcy oferują użycie i monitorować AI;
• Dlaczego ludzkość nie jest gotowa radzić sobie z AI.

o autorze

Nick Bostrom. - Profesor Uniwersytetu Oxforda, dyrektor założycielski Instytutu Przyszłościowej Humanity.

Perspektywy pojawienia się superpasamy

Latem 1956 r. Grupa naukowców zebrała się w Dartmouth College, aby zbadać perspektywy rozwoju ludzkości. Przede wszystkim byli zainteresowani, czy maszyny mogą odtwarzać funkcje ludzkiej inteligencji. Badania na ten temat kontynuowano z różnym sukcesem. W latach 80. program został opracowany na podstawie zestawu zasad lub "systemów ekspertów", i stał się konieczny, że przyszłyby technologie kwitnienia, na podstawie której można utworzyć sztuczną inteligencję. Następnie postęp zatrzymał się, a finansowanie jest suszone. Wysiłki w dziedzinie tworzenia AI otrzymały nowy impuls w latach 90. wraz z pojawieniem się "algorytmów genetycznych" i "sieci neuronowych".

Jednym z kryteriów mocy AI jest jak dobrze zaprojektowane komputery grają w gry, takie jak szachy, most, "erudyt", idź i quiz. Po około 10 latach komputer z zaawansowanymi algorytmami będzie w stanie pokonać świat nad mistrzem świata. Oprócz gier, podobne technologie są wykorzystywane w aparatach słuchowych, urządzeniach do rozpoznawania twarzy, w nawigacji, diagnostyce, planowaniu, logistyce, a także tworzenia robotów przemysłowych, których funkcjonalność jest ...

Ta książka jest dobrze uzupełniona

Teoria gry

Avinash Dixit i Barry Nalbuff

Brainiac.

Ken Jennings.

Przyjemność z X.

Stephen Strogats.

Superintellenencja

Ścieżki, Dankers, strategie

Nick Bostrom.

Sztuczna inteligencja

Gradacja. Zagrożenia. Strategia

"Mann, Ivanov and Ferber"

Informacja

od wydawnictwa

Redaktorzy Naukowe M. S. Burtsev, E. D. Kazimirova, A. B. LAVRENTIEV

Opublikowane z uprawnieniami Agencji Aleksander Korzhenevski

W rosyjskim opublikowanym po raz pierwszy

Bost, Nik.

Sztuczna inteligencja. Gradacja. Zagrożenia. Strategia / nick bostrom; za. z angielskiego S. Filina. - M. Mann, Ivanov i Ferber, 2016.

Isbn 978-5-00057-810-0.

Co się stanie, jeśli samochody przewyższają ludzi w inteligencji? Czy pomogą nam lub zniszczyć rasę ludzką? Czy możemy zignorować problem rozwoju sztucznej inteligencji dzisiaj i poczuć się w pełnym bezpieczeństwie?

W swojej książce Nick Bostrom próbuje zrealizować problem pojawiający się przed ludzkością z powodu perspektywy wyglądu superrobiegu i analizować jego odpowiedź.

Wszelkie prawa zastrzeżone.

Żadna część tej książki nie może być reprodukowana w dowolnej formie bez pisemnej zgody posiadaczy praw autorskich.

Wsparcie prawne wydawców zapewnia kancelarię "Vegas Lex"

Ta książka została pierwotnie opublikowana w języku angielskim w 2014 roku. To tłumaczenie jest publikowane przez aranżacja z Oxford University Press. Wydawca jest wyłącznie odpowiedzialny za to tłumaczenie z pierwotnej pracy i Oxford University Press nie ponosi odpowiedzialności za jakiekolwiek losy, pominięcia lub nieścisłości lub niejasności w takim tłumaczeniu lub na wszelkie straty spowodowane przez poleganie.

© Nick Bostrom, 2014

© tłumaczenie na rosyjski, publikacja w języku rosyjskim, wystrój. Mann, Ivanov i Ferber LLC, 2016

Premontariusza

... Mam jednego przyjaciela - powiedział Edik. - Twierdzi, że osoba jest związkiem pośrednim, niezbędnym charakterem do stworzenia korony stworzenia: szklanka brandy z kawałkiem cytryny.

Arkady i Boris Strugatsky. Poniedziałek zaczyna się w sobotę

Autor uważa, że \u200b\u200bśmiertelne zagrożenie wiąże się z możliwością stworzenia sztucznej inteligencji lepszej dla ludzkiego umysłu. Katastrofa może wyrwać zarówno pod koniec XXI wieku, jak iw nadchodzących dziesięcioleciach. Cała historia ludzkości pokazuje: Kiedy przedstawiciel naszych gatunków, rozsądnej osoby, a każdy inny, który zamieszkuje naszą planetę, zostaje pokonany przez ten, który jest mądrzejszy. Do tej pory byliśmy mądrzejsze, ale nie mamy gwarancji, że będzie to trwać wiecznie.

Nick Bostrom pisze, że jeśli inteligentne algorytmy komputerów uczą się niezależnie wykonują jeszcze bardziej inteligentne algorytmy, a te, z kolei, są nawet mądrzejsze, wybuchowy wzrost sztucznej inteligencji wydarzy się, w porównaniu do którego ludzie będą spojrzeć na w przybliżeniu mrówek obok ludzi, w sensie intelektualnym oczywiście. Nowy, choć sztuczny, ale pojawia się superphan. Nie ma znaczenia, że \u200b\u200b"przychodzi na myśl", próbę uszczęśliwiać wszystkich ludzi lub decydujących o powstrzymanie antropogenicznych zanieczyszczeń na świecie oceanu w najbardziej wydajny sposób, to znaczy niszcząc ludzkość ", nie będzie możliwości oprzeć się temu u ludzi. Brak szans na konfrontację w duchu filmu o terminorze, bez strzelaniny z żelaznymi cyborgami. Czekamy na Shah i Mat - jak w pojedylach komputera szachowego "Dip Blue" z pierwszym równiarką.

Przez ostatnie sto innych lat osiągnięć nauki, pewna przebudzona nadzieja na rozwiązanie wszystkich problemów ludzkości, inni spowodowały i powodują niepohamowany strach. Jednocześnie muszę powiedzieć, że oba punkty widzenia wyglądają całkiem uzasadnione. Dzięki nauce okropne choroby są pokonane, ludzkość jest w stanie wprowadzić bezprecedensowe osoby, które są dziś bezprecedensowe, a z jednego punktu globu można dostać się do przeciwieństwa mniej niż dziennie. Jednak przez łaskę tej samej nauki ludzie korzystające z najnowszych technologii wojskowych zniszczą się nawzajem z potworną prędkością i wydajnością.

Podobny trend - kiedy szybki rozwój Technologie prowadzą nie tylko do tworzenia się nowych możliwości, ale także stanowi bezprecedensowe zagrożenia - obserwujemy zarówno w dziedzinie bezpieczeństwa informacji. Cała nasza branża powstała i istnieje wyłącznie dlatego, że tworzenie i dystrybucja masowa takich wspaniałych rzeczy, jak komputery i Internet dały powstanie problemów, że nie byłoby to niemożliwe do wyobrażenia w epoce kompuskryptowej. W wyniku technologii informacyjnych wystąpił rewolucję w komunikacjach ludzkich. W tym z jej różnymi rodzajami używanych cyberprzestępców. Dopiero teraz Humanity zaczyna stopniowo uświadomić sobie nowe ryzyko: coraz więcej przedmiotów świata fizycznego są zarządzane przy użyciu komputerów i oprogramowania, często niedoskonałego, jazdy i wrażliwej; wszystko jeszcze Istnieją powiązania z Internetem, a zagrożenie Cybermirem szybko staje się problemami bezpieczeństwa fizycznego i potencjalnie - życie i śmierć.

Dlatego książka Nick Bostrom wydaje się tak interesujący. Pierwszym krokiem, aby zapobiec koszmarnym scenariuszom (dla osobnej sieci komputerowej lub całej ludzkości) jest zrozumienie, co mogą składać się. Bosttr robi wiele zastrzeżeń, że tworzenie sztucznej inteligencji porównywalnej umysł ludzki Lub lepszy od niego - sztuczna inteligencja zdolna do niszczenia ludzkości jest tylko prawdopodobnym scenariuszem, który może nie zostać zrealizowany. Oczywiście istnieje wiele opcji, a rozwój technologii komputerowych może nie zniszczyć ludzkości, ale da nam odpowiedź " główne pytanie Życie, wszechświat i wszystko to "(być może, jest to rzeczywiście numer 42, jak w powieści" Hitchhiker na galaktykę "). Nadzieja jest, ale niebezpieczeństwo jest bardzo poważne - ostrzega nas przez Bostrom. Moim zdaniem, jeśli istnieje szansa na takie egzystencjalne zagrożenie dla ludzkości, powinieneś odpowiednio go rozważyć, i aby zapobiec jej i ochronie, należy podjąć wspólne wysiłki w skali globalnej.

Chcesz wypełnić mój przystąpienie z książki z książki Michail Weller "Man in System":

Kiedy fantazja, pomyślna myśl o ludzkiej myśli ozdobiona obrazami i działkami przez długi czas i coś szczegółowo powtarza - cóż, więc nie ma dymu bez ognia. Banalne bojownicy hollywoodzkich o wojnach ludzi z cywilizacją robotów noszą w siebie pod łuskimi handlowego wyglądu gorzkiego ziarna prawdy.

Po wbudowaniu programu Transmisted Instinct w robotach, a satysfakcja tych instynktów zostanie zbudowana jako bezwarunkowa i podstawowa potrzeba, a następnie przejdzie do poziomu samodzielnej reprodukcji - wtedy faceci, przestań radzić sobie z paleniem i Alkohol, ponieważ nadszedł czas, aby pić i palić przed Hanoi dla nas wszystkich.

główny » Kariera » Nick Bosttr Sztuczna inteligencja Pobierz FB2. Nick Bostrom: Sztuczna inteligencja