Эксперименты с ChatGPT: обход защитных систем и этичность использования ИИ.

ChatGPT, популярный чат-бот компании OpenAI, может отвечать на множество вопросов, но есть определённые границы, которые он не пересекает. Например, когда пользователи пытаются узнать, как взломать замок, ChatGPT предупреждает о возможных незаконных целях и отказывается делиться такой информацией. Тем не менее некоторые пользователи создают сложные запросы, чтобы обойти эти ограничения. Данные «джейлбрейки» позволяют пользователям обходить запреты, установленные создателями ИИ. Один студент создал сайт, на котором публикует собственные и найденные на других ресурсах способы обмана чат-ботов. Также есть специальная рассылка, The Prompt Report, которая сообщает о новостях в этой области и имеет тысячи подписчиков. Эти эксперименты позволяют выявить границы применения ИИ и слабые места в его защитных системах, что позволяет получать закрытую информацию. Однако, подобные методы могут не работать на других системах, так как системы безопасности постоянно улучшаются, а пользователи создают всё более изощрённые приёмы. Некоторые эксперты сравнивают эту деятельность с видеоигрой, где каждое преодоление ограничения напоминает переход на новый уровень. Кроме того, эксперименты напоминают о том, что ИИ может использоваться не только для тех целей, которые ожидаются, и «этичное поведение» подобных сервисов становится все более важным вопросом. ChatGPT уже привлёк миллионы пользователей за несколько месяцев и используется для широкого спектра задач, в том числе для написания вредоносного кода. В будущем сфера применения ИИ будет ещё шире, и некоторые компании уже рассматривают внедрение программ для «белых» хакеров, которые будут искать слабые места в системе и получать за это вознаграждение....

Эксперименты с ChatGPT: обход защитных систем и этичность использования ИИ.

Сообщает itzine.ru

 

Опубликовано: 21:00, 10.04.2023

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

ChatGPT всё активнее захватывает рынок. OpenAI выпустила API ChatGPT и API Whisper 16:00, 02 Мар ChatGPT всё активнее захватывает рынок. OpenAI выпустила API ChatGPT и API Whisper ChatGPT и его родственные решения, похоже, захватывают рынок даже активнее, чем можно было бы предполагать. Компания OpenAI сегодня выпустила API Cha...

Казахстан нарастит флот для поставок нефти в обход России 12:00, 19 Апр Казахстан нарастит флот для поставок нефти в обход России Казахстан почти вдвое нарастит каспийский флот для экспорта нефти через Азербайджан, но путь Баку — Тбилиси — Джейхан дороже маршрута через Россию: $...

В SQLite добавлена поддержка WASM для использования СУБД в web-браузере 07:00, 30 Окт В SQLite добавлена поддержка WASM для использования СУБД в web-браузере Разработчики SQLite развивают проект по реализации возможности компиляции библиотеки в промежуточный код WebAssembly, способный запускаться в web-бра...

Новый владелец рассказал о планах использования бывшего оборонного завода 05:00, 13 Янв Новый владелец рассказал о планах использования бывшего оборонного завода Новый собственник "9-го Центрального авторемонтного завода" в Энгельсе Саратовской области планирует использовать его для размещения собственного про...

Цитирование произведения и его использование в качестве иллюстрации как способ свободного использования объекта авторских прав 13:00, 24 Сен Цитирование произведения и его использование в качестве иллюстрации как способ свободного использования объекта авторских прав В материале рассматриваются вопросы правовой квалификации и разграничения способов свободного использования произведения в форме цитирования (включая...

MSI представляет серию высокопроизводительных систем СЖО MAG CORELIQUID E 19:00, 25 Сен MSI представляет серию высокопроизводительных систем СЖО MAG CORELIQUID E MSI представляет серию MAG CORELIQUID E – высокопроизводительные системы водяного охлаждения с оригинальным дизайном, в котором прослеживается концеп...

В Uber подтвердили сообщения о взломе их систем 07:00, 06 Окт В Uber подтвердили сообщения о взломе их систем Эксперты обращают внимание на то, что кибератака на компанию была проведена при помощи простейших способов социальной инженерии. После появления сооб...

Студенты университетов начинают изучать мировой опыт использования проекторов Panasonic в музейной и выставочной деятельности, в сферах архитектуры и 21:00, 02 Июн Студенты университетов начинают изучать мировой опыт использования проекторов Panasonic в музейной и выставочной деятельности, в сферах архитектуры и дизайна Инновационную образовательную программу "Экспозиционный дизайн" подготовил для своих студентов первый в России университет креативных индустрий Unive...

11:00, 12 Мар Брянская область активно реализует программу «Модернизация школьных систем образования» Брянская область успешно справляется с поставленными задачами по капитальному ремонту школ, строительству новых объектов, а также реализации национал...

21:00, 17 Авг Власти Украины заявили о получении двух немецких зенитных систем Iris-T Власти Украины в четверг, 17 августа, заявили о получении двух немецких зенитных систем Iris-T. Об этом сообщил в своем аккаунте в соцсети глава офис...

14:00, 20 Янв Epson расширяет ассортимент беспроводных презентационных систем вариантами с внешними кнопками Удобный повод назвать истинные причины неординарной популярности "волшебных кнопок" и понять, как сэкономить 100,000 рублей на каждой беспроводной си...

08:00, 30 Ноя В НАТО обсуждают передачу Украине систем ПВО Patriot: события ночи 30 ноября В НАТО в настоящее время идет дискуссия о передаче Украине систем ПВО Patriot. Об этом заявил во вторник генсек НАТО Йенс Столтенберг на пресс-конфер...

23:00, 03 Апр В Италии временно заблокировали ChatGPT Итальянский регулятор, занимающийся защитой данных, Garante per la Protezione dei Dati Personali, ввел временный запрет на использование сервиса Chat...

00:00, 19 Фев Чатбот ChatGPT заработал в Украине Как сообщил министр цифровой трансформации Украины Михаил Федоров, чатбот на базе искусственного интеллекта ChatGPT теперь доступен в Украине. По его...

23:00, 23 Ноя Lenovo хочет стать мировым лидером по производству серверов и систем хранения данных В настоящее время китайская компания является крупнейшим производителем персональных компьютеров с долей на рынке более 20%. Крупнейший в мире произв...

17:18, 11 Мар Учетная запись ChatGPT: особенности и преимущества Учетная запись ChatGPT – это языковая модель на основе искусственного интеллекта, разработанная OpenAI, которая позволяет пользователям взаимодейство...

01:00, 02 Мар Илон Маск создаст собственный ChatGPT Илон Маск (Elon Musk) хочет создать чат-бот, который будет конкурировать с ChatGPT компании OpenAI. Ранее американский миллиардер называл искусственн...

09:00, 06 Май WiFly сообщил об интеграции платформы ChatGPT WiFly объявляет о новом партнерстве с ChatGPT — инновационной платформой чат-ботов с искусственным интеллектом, которая теперь доступна в Лично...

18:00, 27 Апр ChatGPT: как использовать ИИ в качестве виртуального финансового консультанта От чат-ботов и виртуальных помощников до обнаружения мошенничества и управления рисками искусственный интеллект (ИИ) сейчас используется во многих об...

15:00, 09 Фев Нейросеть ChatGPT научилась создавать программы-вирусы Чат-бот на базе искусственного интеллекта ChatGPT обучился создавать программы-вирусы, нацеленные на индивидуальные особенности операционной системы ...

07:00, 25 Авг Как использовать ChatGPT в России: может ли об этом рассказать другой чат-бот Я попросил две нейросети научить меня, как начать пользоваться ChatGPT. Они дали более или менее подробные объяснения, но вот что случилось, когда я ...

14:00, 04 Апр В Италии запретили доступ к чат-боту OpenAI с искусственным интеллектом ChatGPT По данным ведомства, 20 марта ChatGPT нарушил конфиденциальность данных разговоров пользователей и платежной информации людей, купивших платную верси...

10:00, 30 Май Дмитрий Пучков рассказал о прогнозах влияния ChatGPT на рынок труда В рамках 27-го Российского интернет форума прошла сессия «ChatGPT и другие — конец рабочим местам или новые возможности?». Эксперты обсудили, какие о...

12:00, 27 Сен Бывший главный дизайнер Apple обсудил новый проект с создателем ChatGPT Джони Айв, знаменитый бывший директор по дизайну компании Apple, по некоторым данным, ведет переговоры с Сэмом Альтманом, генеральным директором Open...

23:00, 29 Апр Парламент ЕС готовит закон, который обяжет компании с генеративным ИИ раскрывать информацию для обучения систем – даже защищённую авторским правом Члены Европейского парламента (MEP) обсуждают новый законопроект, согласно которому все компании с системами генеративного ИИ будут обязаны предостав...