Świadome maszyny

More about the book

Gdy pierwsza maszyna ogłosi „jestem świadoma”, co zrobimy? Wiele osób obawia się utraty kontroli nad sztuczną inteligencją (SI) i katastrof rodem z filmów sci-fi. Choć te zagrożenia są istotne, istnieją subtelniejsze, lecz równie poważne niebezpieczeństwa, które dotąd były ignorowane. Złożona inteligencja niekoniecznie musi być świadoma – może się okazać, że SI dorównująca człowiekowi nie ma „życia wewnętrznego” ani zdolności do subiektywnego doświadczenia. Jak odróżnimy maszynę świadomą od jedynie inteligentnej? To trudny problem, a konsekwencje pomyłki mogą być przerażające. Jeśli SI okażą się świadome, ich niewolnicze traktowanie byłoby nie do przyjęcia. Z drugiej strony, przypisanie świadomości maszynom, które jej nie mają, może prowadzić do sytuacji, w której kosmos zaludniają postbiologiczni potomkowie, ale bez świadomych istot. Autorka omawia metodologię testów na świadomość SI oraz pytania dotyczące umysłu jako programu, który można modyfikować. Książka stawia kluczowe pytania o świadomość, jaźń i tożsamość, które mogą stać się kwestią życia i śmierci w erze projektowania umysłów. Schneider przekonująco argumentuje, że przyszłość ludzkości może zależeć od odpowiedzi na te filozoficzne dylematy.