В Киеве
UA | RU
Prompolitinform

ИИ сможет создать оружие, которое сотрет людей с лица земли. Как этого не допустить

Связь и IT 16.03.2024
зброя ші

Ученые разработали метод тестирования ИИ-моделей на наличие «знаний», которые можно потенциально использовать во вред.

Искусственный интеллект (ИИ), как и другие технологии, может использоваться как в хороших, так и в плохих целях. Ученые из Корнельского университета решили отучить ИИ от вредных знаний, чтобы никто не смог использовать его для создания орудия массового поражения. Результаты исследования они обнародовали на официальном сайте. Об этом пишет Фокус, сообщает портал PromPolitInform.

Учитывая, что в развитие ИИ вкладывается много денег и усилий, возникают опасения по поводу использования больших языковых моделей (ВММ) в ущерб, например, для разработки оружия. Чтобы снизить риски, правительственные организации и лаборатории искусственного интеллекта создали новый эталонный набор данных под названием Weapons of Mass Destruction Proxy (WMDP), который не только предлагает метод проверки наличия опасной информации в моделях ИИ и способы ее удаления, сохраняя при этом остальную модель практически неизменной.

Исследователи начали с экспертами в области биобезопасности, химического оружия и кибербезопасности. Они создали список из 4000 вопросов с несколькими вариантами ответов, чтобы проверить, сможет ли человек применить эти данные для причинения вреда. Они также позаботились о том, чтобы вопросы не раскрывали какой-либо конфиденциальной информации и чтобы ими можно было поделиться открыто. В тестах участвовали студенты. Набор WMDP служил двум основным целям: чтобы оценить, насколько хорошо студенты понимают опасные темы и для разработки методов «отучения» ИИ от этих знаний.

В итоге был разработан метод под названием CUT, который, как следует из названия, удаляет опасные знания с ВММ, сохраняя одновременно общие способности ИИ в других отраслях, таких как биология и информатика.

Белый дом обеспокоен тем, что злоумышленники используют ИИ для разработки опасного оружия, поэтому они призывают к проведению исследований, чтобы лучше понять этот риск. В октябре 2023 года президент США Джо Байден подписал указ, обязывающий научное сообщество устранять риски, связанные с ИИ.

В законе изложены восемь основных принципов и приоритетов ответственного использования ИИ, включая безопасность, защищенность, конфиденциальность, справедливость, гражданские права, защиту потребителей, расширение прав и возможностей работников, инновации, конкуренцию и глобальное лидерство.

«Моя администрация придает первостепенное значение безопасному и ответственному управлению разработкой и использованием ИИ и поэтому продвигает скоординированный подход в масштабах всего федерального правительства к этому. Быстротечное развитие возможностей искусственного интеллекта заставляет Соединенные Штаты лидировать в этот момент ради нашей безопасности, экономики и общества», — говорится в указе.

Но сейчас способы, которые некоторые компании, занимающиеся нейросетями, употребляют для способа контроля над системами, и их просто обойти. Кроме того, тесты, позволяющие проверить, может ли модель ИИ нести риски, дорогие и занимают много времени.

«Мы надеемся, что наши тесты станут одним из основных критериев, по которым все разработчики будут оценивать свои ШИ-модели», — сказал Time Дэн Хендрикс, исполнительный директор Центра безопасности искусственного интеллекта и один из соавторов исследования. — Это даст хорошую основу для того, чтобы подтолкнуть их к минимизации проблем безопасности».

Ранее мы писали, что девушка из Украины нашла в сети своего ИИ-клона, продающего товары из РФ и хвалит Китай. Ольга Лоек считала действия дипфейк-аватара оскорбительными и отправила жалобы китайским соцсетям на поддельные аккаунты. Некоторые из них были удалены.

Другие материалы раздела Связь и IT

Упрощается документооборот. «Дія» совместно с НБУ вводит процесс мультишеринга документов

Украина делает шаг вперед в упрощении бюрократических процессов благодаря новой функции мультишеринга в приложении «Дія». Инновация позволит гражданам делиться не только цифровыми копиями документов, но и справками о доходах с помощью нескольких кликов. Об этом… Продолжение…


Кабмин одобрил концепцию госпрограммы по использованию ИИ в отраслях экономики

Правительство одобрило концепцию Государственной целевой научно-технической программы по использованию технологий искусственного интеллекта в приоритетных отраслях экономики на период до 2026 года. Как передает портал PromPolitInform, об этом в Телеграмме сообщил постоянный представитель правительства в Верховной… Продолжение…


Британия рассматривает возможность отправки Украине прототипа лазерного оружия, — Грант Шеппс

Прототип лазерного оружия DragonFire, созданный для уничтожения воздушных целей, могут отправить в Украину. Великобритания изучает такую возможность. Об этом, передает Цензор.НЕТ со ссылкой на The Telegraph, заявил министр обороны Грант Шеппс, сообщает портал PromPolitInform. Так, глава МО проверил… Продолжение…


Украинские телекоммуникационные компании желает приобрести инвестор из Франции. Какие у него планы на будущее

В Украине сильно антимонопольное законодательство, однако его не применяют. В ЕС антимонопольное законодательство реальный инструмент политики. Инвесткомпания NJJ, принадлежащая французскому миллиардеру Ксавье Ниэлю, по завершении сделки по приобретению фиксированного телекоммуникационного оператора «Датагруп-Volia» и оператора мобильной… Продолжение…


Украинские хакеры уничтожили дата-центр, которым пользовался российский ВПК, нефтегаз и телеком

Уничтожение российского облачного сервиса стало возмездием за атаку на украинский дата-центр «Парковый» в январе этого года. Украинские хакеры, которые могут быть связаны с киберфахивцами СБУ, уничтожили дата-центр, которым пользовался российский ВПК, нефтегаз и телеком. Об этом… Продолжение…


Открылся доступ к бесплатной аналитической платформе о всей экономике громад в Украине

Пока недоступны в Clarity Hromada только данные о бюджете и проверках Открыт доступ к полностью бесплатной, созданной при поддержке иностранных партнеров платформе Clarity Hromada, рассказывающей об основных показателях жизни общин. Об этом информирует ZN,ua, сообщает портал… Продолжение…


Все материалы раздела
О нас / Контакты / Реклама

© Prompolitinform, 2015-2024
Использование любых материалов, размещённых на сайте, разрешается при условии ссылки на prompolit.info. Редакция портала Prompolitinform может не разделять позицию авторов

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: