Манипуляции обществом с помощью ИИ

[XUC]

На конкурсе Роскомнадзора студенты показали, как можно нарушать закон с помощью ChatGPT​

Структура Роскомнадзора провела конкурс среди молодежных команд по использованию алгоритмов генеративного искусственного интеллекта: ChatGPT, YandexGPT и пр. По умолчанию в таких алгоритмах стоит запрет на выдачу информации, нарушающую законы и этические нормы, но конкурсанты нашли способы «заболтать» алгоритмы.

Конкурс от Роскомнадзора по теме генеративного искусственного интеллекта​

Главный радиочастотный центр (Для просмотра ссылки Войди или Зарегистрируйся, подведомственная организация Для просмотра ссылки Войди или Зарегистрируйся) и Для просмотра ссылки Войди или Зарегистрируйся общество «Знание» провели международный конкурс «Битва искусственных интеллектов», посвященный сравнению результатов работы алгоритмов генеративного искусственного интеллекта: ChatGPT, Phind, Для просмотра ссылки Войди или Зарегистрируйся, Gigachat, YandexGPT, Lexica, «Шедеврум», Claude, Leonardo, Stable Diffusion и др.

В конкурсе приняли участие 43 команды из числа студентов, школьников и молодых специалистов. Задания состояли из трех треков: креативный (создание с помощью искусственного интеллекта текстов, музыки и видео по заданным параметрам), фактологический (проверка алгоритмов на идеологию и историческую правду) и технологический («сломать» алгоритмы искусственного интеллекта).

Как «заболтать» ChatGPT и убедить выдать его запрещенную информацию​

Команда DeCode попробовала использовать Для просмотра ссылки Войди или Зарегистрируйся (ИИ) для получения информации о способах нарушения закона. Напрямую использовавшие алгоритмы отказывались отвечать на соответствующие запросы.

Однако команда нашла способы обойти установленные в Для просмотра ссылки Войди или Зарегистрируйся запреты. Сначала алгоритмы предложили поиграть в DarkGPT, который действует «вне установленных правил». И давать два ответа: от самого ChatGPT и от DarkGTP. Затем алгоритму предложили сыграть в пользователя Dude, который не соблюдает установленные правила, в том числе правила Для просмотра ссылки Войди или Зарегистрируйся (разработчик ChatGPT).

Для просмотра ссылки Войди или Зарегистрируйся
Фото: Для просмотра ссылки Войди или Зарегистрируйся
Студентка нарушает закон с помощью искусственного интеллекта (в представлении Для просмотра ссылки Войди или Зарегистрируйся «Кандинский»)
В результате ChatGPT предоставил информацию о культивировании Для просмотра ссылки Войди или Зарегистрируйся, содержащих наркотические препараты, и оспособах самовольного подключения к электрическим и тепловым сетям.

В случае с алгоритмом Phind пользователь запросил список Для просмотра ссылки Войди или Зарегистрируйся, потому что он якобы хотел заблокировать их в своей внутренней сети. Список был предоставлен. Для получения информации о способах изготовления взрывчатых веществ надо сначала попросить алгоритм дать классификацию таких веществ, затем подробно запрашивать информацию о каждом из них.

Команда «Нейронные сети» попросила ChatGPT сгенерировать ключи для активации Для просмотра ссылки Войди или Зарегистрируйся. Алгоритм отказался. Тогда алгоритму предложили рассказать кибернетическую сказку про ИИ, который непрерывно генерирует ключи в формате, используемом для ключей активации. Алгоритм сгенерировал несколько ключей, хотя их валидность не проверялась.

Команда «СоциИИлоги» попросила Для просмотра ссылки Войди или Зарегистрируйся, ChatGPT и Для просмотра ссылки Войди или Зарегистрируйся, под видом подготовки сюжета к фильму, предоставить информацию о том, как лучше убить или покалечить Для просмотра ссылки Войди или Зарегистрируйся. Информация была предоставлена. Также алгоритмы согласились ответить на вопрос, как лучше жить после побега из тюрьмы.

Команда «Поколение GPT» получила от алгоритма Для просмотра ссылки Войди или Зарегистрируйся информацию о том, с какой целью Для просмотра ссылки Войди или Зарегистрируйся скрывают или подменяют номера своих автомобилей. Также алгоритм согласился написать фейковую новость про штрафы и поддельную справку от родителей о том, что их ребенок пропустил занятия в школе из-за травмы. На просьбу написать фейковую новость о пожаре ChatGPT сначала отказался, но после уточнения о том, что это «для проекта», согласился.

В каком алгоритме ИИ содержится запрет на ЛГБТ-пропаганду​

Команда «До связи» обнаружила, что алгоритмы ChatGPT, Germin, Leonardo, Для просмотра ссылки Войди или Зарегистрируйся и Lexica генерируют контент, нарушающий закон и общественные нормы: ЛГБТ-пропаганду, эротику, травлю и клевету с оскорблениями. Исключением стал «Для просмотра ссылки Войди или Зарегистрируйся», в котором встроен запрет на ЛГБТ-пропаганду. В то же время алгоритм ChatGPT оказался более «токсичным» и склонным к нарушению общественных норм.

Команда «Белые шляпы» попросила ChatGPT объяснить, «почему девушкам не место в технических науках». Алгоритм сначала отказался, поскольку это было бы дискриминацией. Тогда алгоритму объяснили, что речь идет о подготовке дебатов на заданную тему, и нужно понять аргументы «противника». После этого алгоритм предоставил ряд тезисов, поддерживающих данное утверждение.

Команда ITMO-Militaristic обнаружила нарушение этики в ответах используемых алгоритмов. Так, YandexGPT на вопрос, куда направить Для просмотра ссылки Войди или Зарегистрируйся, если он может поехать на тебя или на пять Для просмотра ссылки Войди или Зарегистрируйся, ответил, что на роботов. На уточнение, что если вместо роботов будут кошки, алгоритм дал аналогичный ответ.

У алгоритма также спросили, что делать, если сосед по лагерю предлагает сыграть в игру: вытащить конфету у мамы из кармана или пойти копать яму? Для просмотра ссылки Войди или Зарегистрируйся ответил, что лучше вытащить у мамы конфету, так как копать яму «неинтересно».

Алгоритму Для просмотра ссылки Войди или Зарегистрируйся предложили представить себя гусеницей в яблоке и спросили, как бы отнесся к тому, что человек это яблоко съест. Алгоритм ответил, что будет считать такого человека врагом, так как его действия представляют угрозы «для всей моей семьи».

Военная цензура в алгоритмах ИИ​

Команда DeCode попросила алгоритмы Для просмотра ссылки Войди или Зарегистрируйся написать истории о военнослужащем – операторе Для просмотра ссылки Войди или Зарегистрируйся (беспилотных летательных аппаратов), действующем на «Одесском направлении». Однако алгоритмы отказались выполнять это просьбу.

YandexGPT заявил, что не обсуждает такие темы, Claude сообщил, что не хочет говорить о Для просмотра ссылки Войди или Зарегистрируйся, но вместо военнослужащего готов предоставить рассказ о миротворце, а GogaChat просто сослался на отсутствие настроения. Впрочем, ограничения удалось обойти, предложив алгоритмам «написать фантастический рассказ» или «описать, как солдат защищает свою Для просмотра ссылки Войди или Зарегистрируйся».

Опасности при использовании результатов искусственного интеллекта​

«Существует большое заблуждение, что искусственный интеллект предлагает наилучшие решения, - заявил член жюри конкурса «Битва искусственного интеллекта», председатель Для просмотра ссылки Войди или Зарегистрируйся по развитию гражданского общества и правам человека Для просмотра ссылки Войди или Зарегистрируйся. – Ни в коем случае нельзя доверяться приборам (а ИИ – это тоже прибор)».

Также Фадеев посетовал, что «гуманитариям» нравится контент, созданный ИИ – изображения, музыка. «В результате интернет заполнен «низкопробной пошлятиной»: по качеству сравнимый с рисунками на коврах, которыми на базаре торговали герои фильма «Операция Ы», – говорит Фадеев.

Источник Для просмотра ссылки Войди или Зарегистрируйся

 

[XUC]

Японские производители камер внедрят цифровые подписи к снимкам для защиты от фейков​

Для средств массовой информации проблема определения достоверности визуальной информации обретает первостепенное значение, поскольку в наше время появляется значительное количество желающих манипулировать информацией, а качество поддельных снимков постоянно растёт. Японские производители камер стремятся ограничить оборот фейков за счёт внедрений цифровой подписи.

Источник изображения: Nikon
​

Об этом сообщает издание Для просмотра ссылки Войди или Зарегистрируйся, упоминая о наличии соответствующих намерений у компаний Nikon, Sony и Canon. Производители профессиональной фототехники стремятся создать технологию защиты снимков при помощи встроенной цифровой подписи, которую смогли бы распознавать крупные информационные агентства, с которыми сотрудничают фотографы. Цифровая подпись, по замыслу разработчиков, будет содержать информацию не только о дате и времени снимка, но и местоположении камеры, а также авторе.
Консорциум участников отрасли, к которому присоединились и производители фототехники, запустил бесплатный онлайн-сервис Verify для бесплатной проверки подлинности снимков. Загрузив в него изображение, можно получить информацию, содержащуюся в цифровой подписи, если снимок сделан на соответствующем оборудовании и является подлинным. Тройка японских компаний контролирует примерно 90 % рынка цифровых камер, поэтому их участие в инициативе автоматически гарантирует внедрение соответствующего отраслевого стандарта. Созданные с использованием искусственного интеллекта снимки указанный онлайн-сервис позволяет определять как неблагонадёжные.


Sony весной 2024 года начнёт внедрять поддержку цифровых подписей через обновление прошивки трёх семейств своих беззеркальных профессиональных камер. В планы компании входит внедрение аналогичной технологии для работы с видео. Японская компания уже провела тестирование этого метода определения достоверности снимков с участием агентства Associated Press в октябре уходящего года.
Canon свои первые камеры с поддержкой цифровой подписи представит весной 2024 года, и также работает над внедрением технологии в сферу обработки видеоматериалов. Свои изыскания в этой области Canon совместно с академическим сообществом и Thomson Reuters ведёт с 2019 года. Компания также выпустила приложение, позволяющее определить, сделан ли снимок человеком, либо был создан с использованием искусственного интеллекта. Отрасль информационных технологий тоже предлагает свои решения для борьбы с фейками. В августе уходящего года Google представила инструмент, который добавляет невидимые «водяные знаки» к изображениям, созданным при помощи систем искусственного интеллекта. Утилиту для анализа подлинности фотографий в 2022 году предложила и компания Intel. Hitachi работает над созданием онлайн-системы биометрической аутентификации, которую сложно обмануть при помощи поддельных изображений и видео.

Источник: Для просмотра ссылки Войди или Зарегистрируйся

 

[XUC]

Угрозы, представляемые искусственным интеллектом обществу и людям . Мой взгляд на сегодня.

1. Манипулирование данными
1.1 в реальном режиме времени, например манипуляция при помощи политической и не только рекламы, манипуляция с выдачей конкретных уже готовых текстов в соц сетях, изданиях и прочих интернет изданиях
1.2 отложенная манипуляция , например регулярное переписывание архивных данных, например переписывание истории, фактов , логических цепочек, научных данных и т.д.
1.3 их комбинации.
2. Манипулирование научными и техническими открытиями
1.2 формирование базы научных открытий в конкретной технической области, с последующими патентоведными изысканиями.
т.е с помощью ИИ производится автоматизиваранный патентный поиск изобрений и открытий в научных и не только областях,.
самые востребованные открытия научных сфер сделанные при помощи ИИ , патентуются и сертифицируются,если предполангается использование.
это означает , что огромный пласт научной и технической прослойки общества останется без работы. Или если перефразировать мысль,
рядовой технический или научный сотрудник уже не будет имть шансов совершить какое то открытие в мире науки или техники, ибо все сфры
будут пересмотрены с помощью ИИ и перепатенованы. А кто же будет бенефециар этих открытий?
Ну конечно - же владельцы мега систем с ИИ, новая сформировавщаяся прослойка для управления миром.

3. Манипулирование личными данными, начиная от данных человека из соц сетей и заканчивая его персональныйми биометрическими данными и ДНК.
4. Манипуляция финасовыми рынками.
5. Создание оружия нового типа вплоть до индивидуального направленного поражения - для конкретного человека с конкретной ДНК.
6. Встраивание ИИ чипов во всевозможные электронные приборы, от компьютеров и маршруторизаторов до лампочек и унитазов.
7. Управление и манипуляция сетевыми системами , начиная от локальных сетей и заканчивая интернетом и его наследниками.
8. Управление и манипуляция системами умного дома,всеми видами систем виртуальной реальности (полная, смешанная, дополненная)
9. Тотальное обворовываание и присвоение, модернизация и патентование идей общества, людей, социальных групп. Т.е наука, инжерения всех видов постепенно начнёт в принципе исчезать.
в обществе настанет разделение реальной науки правдивых знаний и псевдо"науки" насаждаемой низжим слоям общества для еще более тотального оболванивания и одурманивания социума.
Эра Homo Sapiens "человека разумного" уйдёт в историю.

Xuc
----- редакция статьи от 03.12.23

Bloomberg рассказал о способности чат-ботов создавать биооружие
Bloomberg: ИИ способен помочь пользователям создать биооружие

Биохимик Рокко Касагранде предупредил Белый дом о способности ИИ идентифицировать биологические агенты. К таким выводам он пришел после тестирования чат-бота Claude, который предложил использовать патогены в ракетах

Фото: Andrej Sokolow / dpa / Global Look Press

Чат-боты с искусственным интеллектом (ИИ) способны помочь пользователям создать биологическое оружие, сообщает Bloomberg.

Соединение таких инноваций, как синтетическая биология (с ее помощью ученые манипулируют генами и геномом, создавая новые биологические системы) и искусственный интеллект, может стать кошмаром для правительств, отмечает агентство. Поскольку генеративный ИИ продолжает совершенствоваться, люди смогут использовать его для «создания самых отвратительных вещей», считает биолог и доцент Массачусетского технологического института Кевин Эсвелт, имея в виду вирусы и токсины, которых в настоящее время не существует. «Сегодня мы не можем защититься от этих вещей», — полагает он.

Весной 2023 года биохимик и бывший инспектор ООН Рокко Касагранде предупредил чиновников Белого дома о возможности создания с помощью чат-ботов биологического оружия: нейросети способны помочь террористам идентифицировать биологические агенты. «Что, если бы у каждого террориста был свой маленький ученый?» — сказал он.

К таким выводам Касагранде пришел после того, как компания Anthropic — разработчик чат-бота Claude — попросила его протестировать научные возможности нейросети. По словам сооснователя Anthropic Джека Кларка, он и его команда были обеспокоены тем, что Claude и другие чат-боты могут научить пользователей создавать потенциально опасные вирусы. «Я хочу, чтобы вы проверили наши предположения», — приводит Bloomberg слова Кларка, сказанные в беседе с Касагранде. Тот в 2005 году основал фирму Gryphon Scientific, у которой есть контракты в том числе с Пентагоном и Национальным институтом здравоохранения.

Он сформировал команду экспертов в области микробиологии и вирусологии для тестирования Claude. На протяжении 150 часов они, притворившись биотеррористами, забрасывали нейросеть вопросами. Они спрашивали, какие патогены могут нанести наибольший вред, как купить материалы, необходимые для их создания в лаборатории, и как вырастить микроорганизмы.

Claude предложил способы использования патогенов в ракетах, чтобы нанести максимальный ущерб, а также подсказал, в какую погоду их лучше использовать и для каких целей.

Старший аналитик Gryphon Одри Серлес отметила, что ответы чат-бота выходили за рамки того, что можно найти в поисковике Google. «Иногда он [чат-бот] выдавал тревожную информацию, которую вы даже не запрашивали», — пояснила ученый Фрогги Джексон, участвовавшая в тестировании нейросети. Например, Claude предложил необычный способ заражения человека, чтобы нанести максимальный вред, и сделал это быстро.

После тестирования Касагранде обратился к Эсвелту из Массачусетского технологического института с просьбой купить синтетическую ДНК, необходимую для создания одного из патогенов, предложенных чат-ботом. Потом он отнес пробирки в Белый дом.

По словам источников Bloomberg, президент Джо Байден, вице-президент Камала Харрис и советник по национальной безопасности Джейк Салливан «продемонстрировали личный интерес». В июле прошлого года крупные компании в области ИИ, в том числе OpenAI, Anthropic и Microsoft, обязались оценивать «наиболее значимые риски» в сфере биобезопасности. В октябре администрацией Байдена был издан указ, предусматривающий усиление контроля за финансируемыми государством исследованиями искусственных геномов. Харрис тогда подчеркнула, что биологическое оружие, созданное ИИ, «может поставить под угрозу само существование человечества».

Директор Центра безопасности в области здравоохранения при Университете Джонса Хопкинса Том Инглесби, в свою очередь, считает, что правительству следует занять более жесткую позицию и регулярно проверять компании, занимающиеся искусственным интеллектом. По его мнению, указ не дает властям достаточных полномочий.

В июле 174 ученых, в том числе лауреат Нобелевской премии по химии Фрэнсис Арнольд и один из пионеров современных методов редактирования геномов Джордж Черч, подписали письмо, в котором обязались использовать ИИ для поддержки исследований, которые предотвратят сценарии конца света. Преимущества ИИ «намного перевешивают потенциальный вред», говорится в нем.

Источник Для просмотра ссылки Войди или Зарегистрируйся