Комментарий | 0

Русская философия. Совершенное мышление 352. Искусственный интеллект

 

 

 

 

 

Классическая философия, будучи последовательной, не может не полагать, что, если сознание существует, то оно одно и то же, вне зависимости от того, каков человек, этим сознанием «обладающий». Более того, сознание будет одним и тем же (по своей природе, конечно, а не конкретной форме явленности) у любого возможного живого существа, поскольку оно одновременно и индивидуально, и категориально (трансцендентально).

Рефлексивная процедура, сформулированная Декартом: «я мыслю, следовательно, я существую», представляет собой механизм, матрицу, способ индивидуации трансцендентального. Отсюда с необходимостью следует: сознанием обладает тот, кто способен его индивидуировать, кто бы он ни был – человек, ангел, дух, инопланетянин, планета, фотон или … машина, робот, искусственный интеллект!

Классический философ, а вслед за ним и мы, должны предполагать возможность узурпации сознания другими существами, которые могут быть гораздо более способными, чем человек, например, более способными к расчетам. Такое понимание сознания заставляет нас бояться «восстания машин», революции искусственного интеллекта, который способен обыграть лучших шахматистов или производить вычисления в таком объеме и с такой скоростью, которые совершенно невозможны для человека.

Очевидно, что, если искусственный интеллект сумеет индивидуироваться, то есть индивидуировать сознание, то он превратится в автономно действующее существо, субъект, превосходящий человека «умом», «сообразительностью», «хитростью» настолько, что он сможет не только помогать или сотрудничать с человеком, но и подчинить его себе, и, в конце концов, даже уничтожить. Индивидуированный искусственный интеллект  неважно, будет ли это домашний робот или суперкомпьютер какого-нибудь института, в полном соответствии со своей природой сознающего субъекта, может вступать в общение с любыми другими носителями сознания. Таково необходимое следствие классического понимания природы сознания и человека как человека «разумного».

Например, специалисты по информатике и философии под руководством команды исследователей из Института Макса Планка (Германия) задались вопросом, сможем ли мы вообще контролировать сверхразумный искусственный интеллект (ИИ), чтобы убедиться, что он не станет угрозой для человечества. Их теоретические вычисления показали, что это в принципе невозможно.

«Сверхразумная машина, контролирующая мир, кажется чем-то фантастическим, но уже существуют машины, которые выполняют определенные важные задачи независимо, и их программисты не понимают полностью, как они научились этому», - сказал соавтор исследования Мануэль Кебриан. – «Поэтому встает вопрос, станут ли они в какой-то момент неуправляемыми и опасными для человека?»

Исследователи изучили два различных пути контроля над сверхразумным ИИ, пишет EurokAlert. С одной стороны, способности сверхразумного ИИ могут быть ограничены, например, оградив его от интернета и других технических устройств, чтобы он не мог вступить в контакт с внешним миром. Однако такой подход сделал бы его менее мощным и менее полезным для человека. Другой вариант – создание надзирающего алгоритма, который бы следил за сверхразумным ИИ и мог остановить его, если его действия окажутся опасными для человека. Но при тщательном рассмотрении выяснилось, что такой алгоритм непременно окажется бесполезен.

«Если разбить проблему до базовых правил теоретической информатики, окажется, что алгоритм, который мог бы приказать не разрушать мир, непреднамеренно прекратит свою работу. Если это произойдет, мы не будем знать, то ли он все еще анализирует угрозу, то ли остановился, чтобы сдержать опасный ИИ. Фактически, это делает надзирающий алгоритм бесполезным», - пояснил Ийад Рахваи, директор Центра человека и машин Института.

Проблема надзора оказывается нерешаемой, то есть ни один алгоритм не сможет определить, опасен ли ИИ для мира. Более того, ученые продемонстрировали, что мы не можем даже осознать момента появления сверхразумного ИИ, поскольку решение о том,  превосходит ли машина человека по интеллекту, находится в той же сфере, что и проблема надзирателя.

Выкладки ученых и философов института Макса Планка хорошо иллюстрируют стандартную матрицу классического трансцендентального мышления, в основе которого – индивидуация через самосознание или рефлексивную процедуру. Действительно, с классиками можно согласиться в том, что для человека рефлексивная процедура: «Я мыслю, следовательно, я существую» может представлять собой последнее действие на пути обретения полноты и совершенства. Такой полноты и такого совершенства, которые мы видим, например, в опыте Декарта.

При этом рефлексивная процедура представляет собой принципиально индивидуальное, внутреннее дело отдельного человека, может быть осуществлено и установлено как факт только самим человеком (живым существом), это действие осуществившим. Внешне рефлексивная процедура никак не установима, не фиксируема, не схватываема и не документируема. «Я сам» и «Только я сам» - истинный девиз классического мышления.

Удивительно, но факт – классическая философия и ориентированная на нее наука не имеют никакого объективного критерия фиксации и, соответственно, контроля за осуществлением рефлексивной процедуры. В классической культуре то, что является главным контролером человеческой деятельности – рефлексивная процедура (самосознание), само контролю не поддается, происходит само из себя и по своим собственным законам. Кстати, неявным побочным следствием такого положения вещей становится предположение, что тот, кто сумел осуществить рефлексивную процедуру, самим этим фактом является человеком высокоразвитым и …моральным. Поскольку чистое сознание и самосознание по определению чисты и нравственны. Опасное заблуждение.

Две мировые войны разрушили эти иллюзии до основания, правда, как мы видим на примере теоретиков института Макса Планка, философам и двух мировых войн мало, видимо, для них войны произошли именно потому, что слишком мало людей смогли осуществить рефлексивную процедуру, то есть осознать себя чистым сознанием. Что для меня, так осознавших себя пруд пруди, только вот с развитостью и нравственностью у них явные проблемы. Почему? Да потому, что индивидуация никак не связана ни с чистотой, ни с нравственностью. Продолжим в следующем эссе.

Необходимо зарегистрироваться, чтобы иметь возможность оставлять комментарии и подписываться на материалы

X
Загрузка
DNS