Свръхинтелект - посоки опасности стратегии

Какво ще стане, когато машините надминат хората по интелект? Дали това ще e нашето спасение, или напротив – ще доведе до унищожението ни?

На човечеството му предстои да се изправи пред огромно предизвикателство – срещата със създаден от него, но съкрушително превъзхождащ го изкуствен интелект, който авторът нарича свръхинтелект. Силен и аргументиран опонент на ентусиазираните призиви за бързо развитие на изкуствения интелект, Бострьом обръща специално внимание на рисковете от тази перспектива и възможните превантивни мерки.

Доминиращото си положение на планетата Земя човекът дължи на разширения набор от способности на своя мозък, които са му позволили да натрупва култура и знания и да ги предава на следващите поколения. Аналогично обаче сравнителните преимущества на свръхинтелекта могат да му позволят да завземе властта над човешката цивилизация и природата. Авторът привежда убедителен конкретен сценарий как един такъв свръхинтелект с лекота би могъл да хакне нашата цивилизация и чрез социална манипулация да използва хората като пионки в своята игра и дори да създаде собствени самовъзпроизвеждащи се на молекулярно ниво системи.

Ние обаче имаме едно предимство: първият ход е наш. Възможно ли е така да конструираме изкуствен интелект, че да оцелеем след очакваното му взривно развитие? Бъдещето на човечеството е в нашите ръце.