ИИ уже научился читать мысли

24.03.2023Новости ИТ

Уже в ближайшее время новейшие компьютерные программы смогут определять, что мы видим, ориентируясь на исходящие от нас мозговые волны. Это звучит фантастически, но на самом деле может поставить под угрозу нашу конфиденциальность.

Недавние исследования подтвердили, что искусственный интеллект (ИИ) может считывать изображения, которые ранее видел человек и воссоздавать их. Некоторых исследователей этот факт обрадовал, а других заставил тревожиться. Ведь таким образом ИИ будет вторгаться в частную жизнь пользователей.

Сегодня весь интернет буквально гудит от сообщений о гениальности ИИ ChatGPT. Однако вице-президент по технологиям ИИ в NexOptic в своем недавнем интервью отметил, что для того чтобы программа могла выдавать такие потрясающе «человечные» ответы, ей пришлось узнать буквально все, что есть в интернете, в том числе и нашу личную информацию. Кевин Гордон отметил, что никто даже не пытался брать разрешение у кого либо на то, чтобы использовать информацию о нем. Создатели ИИ просто взяли эту информацию без спроса. Главная опасность ChatGPT состоит в том, что для ее работы нужно вводить подсказки. Некоторые пользователи, стремясь получить наиболее точный ответ, могут непреднамеренно указывать в чате свои личные данные, которые программа постоянно сохраняет и может использовать в будущем.

Мысли, которые имеют значение

Участники нового исследования использовали алгоритм под названием Stable Diffusion, похожий на другие «генеративные» ИИ, преобразовывающие текст в изображение, такие как DALL-E 2. Программное обеспечение может создавать новые изображения из текстовых подсказок. Команда сократила время обучения для каждого участника, включив в алгоритм подписи к фотографиям.

По словам создателей нового ИИ, изображения генерируются в результате комбинации визуальной информации, декодированной из активности разных отделов мозга. Гарольд Ли, вице-президент компании по кибербезопасности ExpressVPN, отметил после презентации этой программы, что у него есть некие опасения касательно нее. Поскольку она анализирует данные, полученные от человеческого мозга, со временем она будет все лучше понимать ход мышления человека и этот мир в целом.

С ним согласен и Ричард Уотсон-Брун, глава отдела цифрового доверия и кибербезопасности в PA Consulting. Он считает, что из-за постоянного машинного обучения со временем ИИ будут представлять действительно серьезную опасность для нашей конфиденциальности. В качестве примера он привел разрастающуюся с устрашающей скоростью коллекцию видеоматериалов, которые хранятся у правоохранителей. Благодаря ИИ полиция теперь может собирать видеоданные без вашего ведома. Это не наносит большого вреда конкретному человеку, но лишает былой конфиденциальности пользователей интернета в целом.

Для того чтобы ИИ могли обучаться, им необходимы огромные массивы данных, в том числе и личных. Скорее всего, они уже сейчас используют такую информацию о вас, давать разрешение на использование которой вы не стали бы никогда. Есть много примеров этого, но возможно, самым известным из них является использование данных Cambridge Analytica для влияния на выборы в США. Во время предвыборной кампании использовались данные, о сборе которых пользователей просто не предупреждали.

Регулирование ИИ

Некоторые эксперты говорят, что единственным способом удержать ИИ от сбора слишком большого количества личной информации о пользователях может быть жесткое регулирование. Одной из законодательных мер, направленных на регулирование ИИ, является «Общее положение ЕС о защите данных», которое устанавливает право человека на то, чтобы логика любого юридического или другого важного решения, принятого ИИ, была объяснена также другим человеком.

Гароль Ли отмечает в своем интервью, что в настоящее время большая часть ответственности за защиту конфиденциальности ложится на компании, собирающие данные о личности пользователей. Национальная стратегия кибербезопасности Белого дома, запущенная недавно, включает «Билль об ИИ правах», который поможет компаниям внедрять этичные виды ИИ. Но это скорее руководство, чем фактический законопроект, и его довольно трудно использовать в реально жизни. В то же время конфиденциальность является фундаментальным правом человека, и все, что угрожает этому, например, ИИ, должно обязательно регулироваться.

Источник: Lifewire.

👍 / 👎

Тогда можно поддержать её лайком в соцсетях. На новости сайта вы ведь уже подписались? ;)

Или хотя бы оставить довольный комментарий, чтобы мы знали, какие темы наиболее интересны читателям. Кроме того, нас это вдохновляет. Форма комментариев ниже.

Что с ней так? Своё негодование вы можете высказать на zelebb@gmail.com или в комментариях. Мы постараемся учесть ваше пожелание в будущем, чтобы улучшить качество материалов сайта. А сейчас проведём воспитательную работу с автором.

Если вам интересны новости мира ИТ так же сильно, как нам, подписывайтесь на Telegram-канал. Там все материалы появляются максимально оперативно. Или, может быть, удобнее "Вконтакте"?

Новости СМИ2

Автор: Екатерина Червинко

Поговорить?

Читайте нас где удобно

Ещё на эту тему было

Для тех, кто долистал

Ай-ти шуточка бонусом. - У меня Samsung с 4G! - Ты имеешь в виду "Samsungggg"?