Здесь важно уточнить, что не человек должен запрограммировать ИИ на варку кофе — такое встречается повсеместно, — а искусственный интеллект должен сам ЗАХОТЕТЬ кофе. То есть машина должна осознать себя и свои желания. В том, что это случится, не сомневается практически никто из современных исследователей. Вопрос только — как скоро?
Получается, сильный искусственный интеллект должен представлять собой искусственную личность со своими желаниями, страхами, намерениями и собственным мнением.
Есть четыре основные вещи, которые люди вкладывают в понятие интеллекта — сознание, самосознание, мудрость и эмпатия. Считается, что сильный ИИ появится в тот момент, когда машина станет способна осознать свои чувства и потребности.
На данный момент об этом рано говорить:
вспомните хотя бы роботов Boston Dynamics и их тесты. Создатели могут бить робопсов палками, нарочно ставить им подножки и подкидывать банановую кожуру, но они встают и продолжают выполнять задачу. Они не чувствуют боли, не испытывают обиды. Единственное, что они вынесут из этой ситуации — постараются в следующий раз не упасть.