Выступающие на конференции Neural Information Processing Systems специалисты в области искусственного интеллекта заявили, что перестали понимать принцип принятия решений, которым руководствуется ИИ, — сообщает Quartz. По мнению экспертов, принимать как должное действия ИИ без понимания его логики — довольно легкомысленно, ведь чтобы люди приняли модели машинного обучения, им нужно знать, чем именно руководствуется ИИ, решая, как именно ему следует поступить в конкретной ситуации. читать дальше
Часто решения, принятые ИИ, бывают предвзятыми, кроме того, его ассоциативное «мышление» тоже зачастую бывает не столь идеальным, в результате чего ИИ проводит неправильные аналогии. Такие ошибки могут дорого обойтись, если ИИ будет руководить сложными проектами, такими, к примеру, как полёт на Марс — в этом случае неверный поступок искусственного интеллекта может не только уничтожить дорогостоящее оборудование, но и повлечь за собой смерти людей. Поэтому, перед тем, как позволить ИИ самостоятельно принимать важные решения, необходимо сначала изучить принципы, которыми он руководствуется, — поясняет Мэтра Рагху, специалист по ИИ из Google.
На конференции она представила доклад, в котором описала процесс отслеживания действий отдельных частей нейросети. Отсматривая их по частям, можно понять логику ИИ, а затем, в случае чего, её и подкорректировать. Анализируя миллионы операций, она смогла выявить отдельные искусственные «нейроны», которые концентрировались на неверных представлениях, а затем отключить их, сделав ИИ более сговорчивым и правильным.
Это чем-то похоже на то, как учитель подаёт какой-то материал, а затем просит ученика пересказать своими словами, что именно он понял из лекции, — поясняет Кири Вагстафф ИИ-эксперт из NASA.
Судя по результатам этого исследования, верно понять действия искусственного интеллекта не так уж и сложно. Главное — решить проблему до того, как станет слишком поздно.
Мозг – это не только набор электрических сигналов. Ученые считают, что если мы сможем узнать абсолютно все о том, как он работает, то, по крайней мере в теории, сможем оцифровать чей-нибудь разум, а затем загрузить его в компьютер, тем самым создав фактически бессмертную цифровую личность, как это было, например, показано в фильме «Превосходство» с Джонни Деппом. Звучит фантастически, безусловно, но ученые движутся в этом направлении. Если говорить о мозге человека, то мы даже близко к такому уровню не подобрались, однако некоторые успехи продемонстрировала команда международных ученых, которая оцифровала мозг круглого червя Caenorhabditis elegans.
Ученые очень хорошо изучили крошечную нематоду Caenorhabditis elegans. Нам известны все ее гены, а также особенность ее нервной системы. Поэтому в 2014 году исследователи в рамках проекта OpenWorm смогли составить карту соединений между всеми 302 нейронами червя и на основе полученных данных создать цифровую версию системы его нейронов. Основная задача проекта заключалась в полной репликации Caenorhabditis elegans в виде цифрового организма, однако исследователи решили пойти дальше и не только создали цифровую версию мозга нематоды, но еще и загрузили ее в простого робота, созданного из конструктора Lego.
Этот робот фактически является физическим воплощением червя и имеет все необходимые эквивалентные части тела нематоды: сонарный датчик, который действует в качестве обонятельной системы, и набор моторчиков, которые выполняют функцию моторных нейронов червя, с каждой стороны его тела. Удивительно, но без каких-либо заранее внесенных запрограммированных инструкций оцифрованная версия нейронной системы Caenorhabditis elegans действительно способна управлять роботом.
«Заявляется, что робот способен вести себя аналогично поведению, демонстрируемому живым червем Caenorhabditis elegans. Внешняя стимуляция датчика, симулирующая его орган обоняния, заставляет робота остановиться. Прикосновение к передним и задним сенсорным датчикам, а также стимуляция сенсора, отвечающего за пищевую систему, заставляет его двигаться вперед или назад», — пишет сайт I-Programmer.info.
Тимоти Бусбице, учредитель проекта OpenWorm, в свою очередь, выложил на YouTube видео, в котором показана «жизнедеятельность» Lego-червя. Он двигается вперед-назад, останавливается и снова двигается.
Исследователи отмечают, что цифровая симуляция работы мозга червя неидеальна и в некоторых моментах упрощена. Например, ученым пришлось упростить процесс, выступающий триггером для активации искусственных нейронов. Но факт того, что робот действительно двигается сам по себе, может останавливаться перед препятствием, а затем пятиться назад, используя для этого ничего более, чем просто оцифрованный код, имитирующий работу нейронов мозга червя — выглядит довольно впечатляюще.
Проект OpenWorm продолжает свою работу и является полностью открытым. На его официальном сайте имеются симуляционные модели и визуализация цифровой нематоды. Сейчас исследователи хотят восстановить работу некогда созданного ими iOS-приложения, позволяющего следить за деятельностью цифрового червя (этакий аналог «Тамагочи», только без прямого управления), поэтому ищут людей, готовых им помочь в этом деле.
И все же цифровые черви – это так, забава. Ключевая цель проекта заключается в создании коннектома — описания всех нейронных связей человеческого мозга. В итоге даже если мы не сможем загрузить наши мозги в компьютеры, а всего лишь научимся создавать их симуляционные модели, то даже это внесет существенный вклад в развитие искусственного интеллекта и в целом компьютерных систем.