Искусственный интеллект: реальность не так пугающа, как в кино, но есть три аспекта, которые стоит учитывать.

По словам Дерека Левина, обозревателя Asia Times, настоящее беспокойство не в том, что ИИ скоро станет «сверхразумом», а в том, как люди будут его разрабатывать, использовать и развивать.

Таким образом, проблема заключается не столько в ИИ, сколько в экосистеме, создаваемой вокруг него.

С этой точки зрения, обществу следует обратить внимание на три ключевых момента.

Концентрация власти в руках ИИ может быть более значительной угрозой для человечества, чем превышение им установленных человеком пределов. (Изображение: Скриншот X)

Во-первых, информационная власть все больше сосредоточивается в руках немногих.

Никогда ранее в истории человечества объем информации не обрабатывался с помощью столь узкого круга платформ. Каждый день сотни миллионов людей обращаются к системам ИИ в поисках ответов. Они используют ИИ для обучения, работы, исследований, составления отчетов или поиска информации, что приводит к колоссальным результатам.

ИИ способен анализировать тысяч страниц документов за считанные секунды и синтезировать данные из множества источников, предоставляя ответы быстрее, чем любой человек. Однако, по мере роста его полезности, ИИ также становится связующим звеном между человеком и знаниями. Встает важный вопрос: кто управляет этим звеном?

В настоящее время большинство передовых моделей ИИ разрабатываются небольшим числом крупных технологических компаний, и с увеличением зависимости от этих систем, влияние их разработчиков возрастает.

Дерек Левин считает, что именно это является подлинной проблемой, требующей внимания, не из-за злых намерений технологических компаний, а из-за того, что любая чрезмерная концентрация власти требует контроля.

История показывает, что когда информация сосредоточена в руках ограниченного числа людей, общества часто сталкиваются с дисбалансом в доступе к знаниям и формировании общественного мнения.

Поэтому многие эксперты утверждают, что конкуренция, прозрачность и диверсификация экосистемы ИИ критически важны наряду с технологическим прогрессом.

Во-вторых: мы можем начать доверять ИИ больше, чем самим себе.

Одно из главных преимуществ ИИ может одновременно оказаться одной из его слабостей. Ответы ИИ часто подаются с большой связностью, уверенностью и логикой.

Они могут быть так убедительны, что пользователи могут подумать, что получают абсолютно объективные выводы. Но это не так.

Современные системы ИИ работают на основе статистических вероятностей и обученных данных; у них нет истинного «знания» в человеческом смысле. Казалось бы, логичный ответ может быть неполным, недостаточно обоснованным или даже неверным. С увеличением использования ИИ в повседневной жизни, риск новой зависимости также возрастает.

Люди могут постепенно забыть о привычке проверять информацию, задавать вопросы и принимать выводы, сгенерированные алгоритмами, особенно в таких областях, как образование, научные исследования и СМИ, где критическое мышление необходимо.

Сам по себе ИИ может стать мощным вспомогательным инструментом.

Но если пользователи начнут воспринимать каждое решение ИИ как абсолютную истину, это может снизить их способность к независимому суждению в будущем. Иными словами, проблема не в том, что ИИ будет думать за людей, а в том, что люди могут научиться не думать самостоятельно.

В-третьих: каждый может жить в своем «информационном пространстве».

Это, возможно, самое интересное предостережение в статье Дерека Левина.

В эпоху традиционного телевидения миллионы людей могли смотреть одни и те же вечерние новости или читать одну и ту же утреннюю статью. Они могли придерживаться разных точек зрения, но, по крайней мере, получали информацию из схожих источников.

ИИ меняет эту картину. В отличие от традиционного телевидения, ИИ может адаптировать ответы под каждого пользователя: два человека могут задать один и тот же вопрос и получить разные ответы, а трое могут запросить анализ одной проблемы и получить три разных взгляда. Это дает множество преимуществ, делает информацию более гибкой и подстраивает её под потребности каждого.

Но в долгосрочной перспективе это создает новые риски; каждый может постепенно сформировать свою собственную «информационную реальность». Не совсем ложную информацию, а скорее разные версии одного и того же события.

Если эта тенденция станет общей, общество может столкнуться с усложнением достижения консенсуса. Люди будут разделяться не только в своих мнениях, но и в понимании данных и основах проблемы. Это более тонкая форма фрагментации, чем всё, с чем мы сталкивались ранее с социальными сетями.

Тревожным является не сила ИИ, а неподготовленность людей к этому.

Интересен аргумент Дерека Левина, который не призывает к замедлению или остановке развития ИИ. Напротив, он подчеркивает, что технологии приносят огромную пользу науке и обществу. Проблема в том, что общество должно быть лучше подготовлено к адаптации.

Это включает повышение прозрачности систем ИИ, стимулирование конкуренции для предотвращения монополий, улучшение навыков проверки фактов и обеспечение граждан базовым пониманием работы ИИ. В конечном итоге технология — это всего лишь инструмент. Мощный инструмент может принести много пользы, если его правильно использовать.

Но если общество станет слишком зависимым от этой технологии без необходимого понимания, такие инструменты могут привести к непредсказуемым последствиям. Возможно, именно поэтому важнейший вопрос нашей эпохи ИИ — это не то, превзойдут ли машины людей.

А хватит ли человечеству мудрости, чтобы использовать возможности ИИ, сохраняя независимое мышление, способность проверять факты и прозрачность информационного пространства?