Недавние исследования подтвердили, что искусственный интеллект (ИИ) может считывать изображения, которые ранее видел человек и воссоздавать их. Некоторых исследователей этот факт обрадовал, а других заставил тревожиться. Ведь таким образом ИИ будет вторгаться в частную жизнь пользователей.
Сегодня весь интернет буквально гудит от сообщений о гениальности ИИ ChatGPT. Однако вице-президент по технологиям ИИ в NexOptic в своем недавнем интервью отметил, что для того чтобы программа могла выдавать такие потрясающе «человечные» ответы, ей пришлось узнать буквально все, что есть в интернете, в том числе и нашу личную информацию. Кевин Гордон отметил, что никто даже не пытался брать разрешение у кого либо на то, чтобы использовать информацию о нем. Создатели ИИ просто взяли эту информацию без спроса. Главная опасность ChatGPT состоит в том, что для ее работы нужно вводить подсказки. Некоторые пользователи, стремясь получить наиболее точный ответ, могут непреднамеренно указывать в чате свои личные данные, которые программа постоянно сохраняет и может использовать в будущем.
Участники нового исследования использовали алгоритм под названием Stable Diffusion, похожий на другие «генеративные» ИИ, преобразовывающие текст в изображение, такие как DALL-E 2. Программное обеспечение может создавать новые изображения из текстовых подсказок. Команда сократила время обучения для каждого участника, включив в алгоритм подписи к фотографиям.
По словам создателей нового ИИ, изображения генерируются в результате комбинации визуальной информации, декодированной из активности разных отделов мозга. Гарольд Ли, вице-президент компании по кибербезопасности ExpressVPN, отметил после презентации этой программы, что у него есть некие опасения касательно нее. Поскольку она анализирует данные, полученные от человеческого мозга, со временем она будет все лучше понимать ход мышления человека и этот мир в целом.
Такие новости мы постоянно публикуем в Telegram. Подписывайтесь на канал, чтобы ничего не пропустить ;)
С ним согласен и Ричард Уотсон-Брун, глава отдела цифрового доверия и кибербезопасности в PA Consulting. Он считает, что из-за постоянного машинного обучения со временем ИИ будут представлять действительно серьезную опасность для нашей конфиденциальности. В качестве примера он привел разрастающуюся с устрашающей скоростью коллекцию видеоматериалов, которые хранятся у правоохранителей. Благодаря ИИ полиция теперь может собирать видеоданные без вашего ведома. Это не наносит большого вреда конкретному человеку, но лишает былой конфиденциальности пользователей интернета в целом.
Для того чтобы ИИ могли обучаться, им необходимы огромные массивы данных, в том числе и личных. Скорее всего, они уже сейчас используют такую информацию о вас, давать разрешение на использование которой вы не стали бы никогда. Есть много примеров этого, но возможно, самым известным из них является использование данных Cambridge Analytica для влияния на выборы в США. Во время предвыборной кампании использовались данные, о сборе которых пользователей просто не предупреждали.
Некоторые эксперты говорят, что единственным способом удержать ИИ от сбора слишком большого количества личной информации о пользователях может быть жесткое регулирование. Одной из законодательных мер, направленных на регулирование ИИ, является «Общее положение ЕС о защите данных», которое устанавливает право человека на то, чтобы логика любого юридического или другого важного решения, принятого ИИ, была объяснена также другим человеком.
Гароль Ли отмечает в своем интервью, что в настоящее время большая часть ответственности за защиту конфиденциальности ложится на компании, собирающие данные о личности пользователей. Национальная стратегия кибербезопасности Белого дома, запущенная недавно, включает «Билль об ИИ правах», который поможет компаниям внедрять этичные виды ИИ. Но это скорее руководство, чем фактический законопроект, и его довольно трудно использовать в реально жизни. В то же время конфиденциальность является фундаментальным правом человека, и все, что угрожает этому, например, ИИ, должно обязательно регулироваться.
Источник: Lifewire.