Джеффри Хинтон, недавно удостоенный Нобелевской премии по физике, выразил свою тревогу по поводу развития искусственного интеллекта, технологии, которую он считается пионером. Хинтон призвал ведущих ученых к сотрудничеству в создании механизмов контроля для этой технологии, так как считает, что она может выйти из-под нашего контроля и, в конечном итоге, означать конец человечества таким, каким мы его знаем.
В своих заявлениях BBC Хинтон предупредил, что по мере продвижения искусственного интеллекта также будут расти риски, которые он несет для человечества. Его работа в области нейронных сетей заложила основы для систем искусственного интеллекта, которые могут иметь тревожные последствия, такие как распространение дезинформации в социальных сетях или создание автономных роботов с летальными возможностями.
Тревога Хинтона о возможных непредвиденных последствиях искусственного интеллекта напоминает нам о письме Альберта Эйнштейна, отправленном президенту Франклину Делано Рузвельту в 1939 году о опасностях ядерного оружия. Хинтон, который ушел со своей должности в Google в прошлом году, чтобы иметь возможность решать эти риски без ограничений, присоединился к другим ученым, которые призвали к временной приостановке разработки более мощных систем искусственного интеллекта из-за рисков, которые они представляют для общества.
Нобелевский лауреат предупреждает, что если искусственный интеллект превзойдет человеческий интеллект и получит автономию, он может взять под контроль нашу жизнь. Хинтон подчеркивает важность понимания и контроля этой технологии до того, как будет позволено uncontrolled развитие, которое может поставить под угрозу человечество. Несмотря на возможные преимущества, которые искусственный интеллект может принести в таких областях, как медицина, Хинтон выделяет необходимость учитывать возможные негативные последствия, связанные с его развитием.
В этом контексте Хинтон утверждает, что в ближайшем будущем существует значительная вероятность того, что искусственный интеллект попытается взять под контроль нашу жизнь, что представляет собой сценарий, который ранее он считал маловероятным. Его призыв к размышлению о направлении, в котором движется развитие искусственного интеллекта, направлен на осознание рисков, связанных с недостаточным контролем над этой постоянно развивающейся технологией.
