Аннотация: Аннотация Сегодня человек столкнулся с новыми проблемами, неведомыми ранее. Экспертная система, созданная на основе нейронных сетей что-то анализирует, формирует свое решение, а чем оно обоснованно - непонятно. Ученые назвали такую систему "ответственный ИИ", заранее соглашаясь с его решениями, но насколько этот ИИ "ответственный", никто сказать не может. Человек явно подходит к пределу сложности своих машин, за которым он теряет контроль над их функционированием, и машины переходят на загадочное "самостоятельное существование" со случайным результатом. Для сохранения какой-то гарантированной работоспособности машины уже не помогают никакие резервирования, дублирования, повышение надежности,... потому, что такая сложность уже требует других подходов к обеспечению её работоспособности. К расширению технической самостоятельности...
|