Искусственный интеллект ускорил поиск терапевтических антител: новый шаг к готовности к пандемиям

Учёные из исследовательского института Scripps Research разработали методику, которая радикально ускоряет процесс поиска антител для лечения инфекцион...

Обезболивание без таблеток: виртуальная реальность с видами природы помогает мозгу «отключить» боль

Погружение в виртуальную реальность (VR) с природными пейзажами — водопадами, лесами и горами — может стать новым направлением в лечении хронической б...

Алгоритм ускорил проектирование сосудистой системы для 3D-печати сердца

Более 100 тысяч человек в США ожидают пересадки органов. Для многих это ожидание может затянуться на годы, а некоторые так и не доживут до операции. Д...

Гены и среда: крупнейшее исследование близнецов раскрывает индивидуальную чувствительность к внешним факторам

Учёные из международной исследовательской группы, возглавляемой Королевским колледжем Лондона, выявили генетические факторы, которые могут определять,...

Гибкие микрочипы, имитирующие структуру кровеносных сосудов, открывают новые горизонты в исследованиях болезней

Кровеносные сосуды человека — это настоящие \"магистрали\" организма: они извиваются, ветвятся, соединяются, образуют сужения и расширения, как запута...

Человек не сможет управлять сверхразумным искусственным интеллектом

Новости науки14-01-2021, 23:25
Человек не сможет управлять сверхразумным искусственным интеллектомВ литературе и кинематографе уже давно идет дискуссия о взаимоотношениях сверхмощного ИИ и человека, однако ученые лишь сегодня обоснованно ответили на вопрос: сможет ли человек управлять суперинтеллектом высокого уровня. К сожалению, ответ для человечества неутешительный – нет.

Ученые Института человеческого развития им. Макса Планка представили доказательства пессимистичного прогноза. Сверхразум выходит далеко за пределы человеческого понимания. Для управления необходима его симуляция, которую человек может проанализировать. Но если человек не понимает, что же такое сверхразум, то и создать симуляцию он не сможет. Иными словами, если компьютерная система начнет работать на уровне, который превышает возможности программистов, они не смогут устанавливать ограничения, следовательно, команда «не причиняй людям вреда» может быть не выполнена.

Кроме того, суперинтеллект теоретически способен мобилизовать для достижения целей такие ресурсы, которые непонятны для людей. В этом случае человек не сможет контролировать использование этих ресурсов. Однако уже сегодня существуют машины, которые самостоятельно выполняют определенные задачи, и программисты не понимают, как они научились этому. Поэтому закономерно возникает второй вопрос: когда ИИ станет неуправляемым и опасным для человечества?


Комментарии:

Оставить комментарий

Ученые выяснили, можно ли управлять наст..

Эксперты, работающие в институте Дьюка в Америке, установили, что эмоциональное состояние человека можно с легкостью взять под контроль без подробнее

Сибирь превратится в пустыню через полве..

Климатические перемены начались уже давно, а главное - их не остановить, полагают учёные. Всему виной, как уже много раз до этого ... подробнее

Как похудеть подростку?..

Извечная проблема избыточного веса не носит возрастного характера. Как правило, ей подвержены не только взрослые люди, но и дети, особенно ... подробнее

Все замечания и пожелания присылайте на info@greenrussia.ru.
Зеленая Россия – портал для дачников России. Все права защищены и охраняются законом. © 2007 - 2025.

При использовании материалов сайта, активная ссылка на www.greenrussia.ru обязательна.