dpmmax молодец. Подкинул задачку, вполне сравнимую с легендарным самолетом на транспортере. В случае самолета, напомню, первопричиной адских срачей была нечеткость изначальных условий. Здесь то же самое и не менее изящно подано.В чем прикольчики?
1. Не совсем понятно, что такое ИИ. То есть, у нас мозги устроены примерно одинаково. А вот ИИ можно спроектировать очень разными. В зависимости от того, что мы хотим получить. Если говорить о "подобии человеческого" на базе какой-то очень продвинутой нейронной сети, то к ней придется подключить некий программный блок, эмулирующий гормональные выплески и прочие штуки. Иначе аналога человеческой психики мы не получим.
2. Не очень понятно, что значит "свести с ума". Психиатр, ставя диагноз, никогда не скажет "безумен". Сказать такое -- значит не сказать ничего.
3. И как многие уже заметили в комментах, сначала надо ясно и четко ответить на вопрос, что же такое сознание.
Что до меня, то я уже почти привык думать, что мой м0зг и я сам -- мое "Я" -- это две разные сущности. Помню, Пелевин в какой-то из своих книжек выдвинул забавную концепцию: человек -- он как беспилотник. Оператор находится где-то далеко. А мозг -- что-то вроде бортового компьютера и не больше. Приводит информацию с сенсоров в понятный вид, прежде чем передать ее, куда надо, плюс решает несложные задачи. Разница в том, что обычный оператор сидит за пультом и втыкает в монитор. А здесь он включен в систему настолько плотно, что зачастую воспринимает ее, как самого себя.
Пелевин, разумеется, не первый, кто до этого додумался. Но аналогия с беспилотником мне определенно по душе.
А еще я полностью перешел на ночной образ жизни. Сейчас для меня утро.
Татьяна Черниговская в интервью Познеру рассказывала как раз про то, что мозг и человек это разные сущности. и можно ли называть "мой мозг" это вопрос, потому что не ясно, кто кем управляет :-)
и рассказывала про эксперименты по решению каких-то задач, когда по показаниям приборов фиксировали, что мозг ответ на задачу уже нашёл(подробностей этого момента не помню, к сожалению), а человек еще об этом не знает. и лишь позже человек это решение понимал/озвучивал/реализовывал. и задержка там была приличная, больше, чем нужно на передачу по нервной системе.
еще что-то на тему самостоятельности мозга рассказывала, вроде бы.
http://www.1tv.ru/shows/pozner/vypuski/gost-tatyana-chernigovskaya-pozner-vypusk-ot-11042016?null
Конечно, багов в реальном искине будет много - в том числе и с эффектами "сумасшествия". Но все это будет намного мягче, чем у человека.
чтобы моделировать поведение искусственного интеллекта необходимо для начала иметь представление о том, что такое естественный интеллект.