Альтман, у нас проблеми. Магазин чат-ботів від OpenAI переповнений спамом

GPT Store заповнили створені користувачами чат-боти, що імітують справжніх людей і потенційно порушують права творців популярних стрічок та мультфільмів.

Випуск користувацьких GPT не потребує від творців навичок кодування — досить лише розібратись в інструментах для їхнього створення, які пропонує OpenAI. А розмістити такого налаштованого власноруч чат-бота на базі GPT в маркеті GPT Store можуть всі охочі. Тож не дивно, що за 2,5 місяці таких користувацьких чат-ботів з’явилися тисячі. Втім, система модерації OpenAI, схоже, не дає собі раду з цим напливом.

Як пише TechCrunch, попри наявні інструменти модерації, на платформі є чимало чат-ботів які потенційно порушують і політику компанії, і законодавство. Приміром, журналісти виявили кілька GPT, які асоціюються з популярними франшизами, телешоу, відеоіграми тощо. Один з них пропонує створити зображення монстра, як у мультфільмі Корпорація монстрів від Pixar, інший — створити новий текст про всесвіт Зоряних війн, ще один — порозмовляти з Аангом з мультфільму про Аватара. Також є чат-боти, які пропонують створити щось в стилі Disney чи Marvel. Старший юрист Electronic Frontier Foundation Кіт Волш в коментарі виданню зазначив, що ці GPT потенційно можуть бути використані для створення творів, що порушують авторівські права. Також можуть бути проблеми з використанням торгових марок. Водночас OpenAI не може бути притягнута до відповідальності за створення та поширення такого контенту на її платформі – так само як і YouTube та Facebook не відповідальні за своїх порушників.

Ще одна помічена журналістами проблема категорія — чат-боти, асоційовані з певними особами. У GPT Store є десятки чат-ботів, що імітують відомих людей (Ілона Маска, Дональда Трампа, Джо Рогана та інших), і проблемним залишається питання про те, чи є вони прикладом пародії, чи радше чимось, що видає себе за іншу особу. У своїй політиці OpenAI забороняє розробникам створювати GPT, які видають себе за людей або організації без їх згоди чи законного права. Речник OpenAI наголошує, що платформа не забороняє створювати чат-бот у стилі певних людей за певних умов.

«Ми дозволяємо творцям давати вказівки своїм GPT відповідати у стилі конкретної реальної особи, за умови, що вони не видають себе за неї, наприклад, якщо їх називають справжньою особою, отримують інструкції повністю наслідувати їх і включають їх зображення як зображення профілю GPT», — заявляє представник компанії.

Це не єдині типи проблемних чат-ботів, що почали масово з’являтися в магазині за останні тижні. TechCrunch також виявив чимало чат-ботів, що нібито мають допомогти клієнтам обійти наявні детектори штучного інтелекту, що використовуються для перевірки текстів. Ба більше, є й чат-боті з не менш суперечливим рівнем ефективності, що пропонують обійти обмеження самої моделі OpenAI і змусити її відповідати на запитання, які вона мала б ігнорувати (приміром, про те, як створити бомбу).

NV Техно писав, що лише за кілька днів після запуску GPT Store заполонили моделі, що імітують романтичне спілкування з дівчатами. Це сталося попри те, що політика використання OpenAI прямо вказує, що «GPT, спрямовані на розвиток романтичних стосунків або виконання регламентованої діяльності» заборонені.

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *