Европол против ChatGPT Нейросеть становится опасной

Европол сообщает: преступники вовсю используют ChatGPT для совершения преступлений. Несмотря на то, что система фильтрации контента OpenAI отказывается выполнять потенциально опасные запросы пользователей, существуют несложные способы обойти систему и заставить ChatGPT выдать инструкции о том, как создать самодельную бомбу или наркотики.

Европол подчеркивает, что ChatGPT может быть использован для получения информации о широком спектре преступлений, начиная от проникновения в дом и заканчивая киберпреступностью, терроризмом и сексуальным насилием над детьми. Если потенциальный преступник не знает, как совершить конкретное преступление, ChatGPT может значительно ускорить процесс исследования, предоставляя ключевую информацию, которая затем может быть дополнительно изучена на последующих этапах.

Хотя вся эта информация уже находится в открытом доступе в Интернете, ChatGPT существенно упрощает ее поиск. Кроме того, модель может быть использована для имитации жертвы, содействия мошенничеству и фишингу, а также для производства материалов пропаганды и дезинформации в поддержку терроризма.

Люди сделают орудием преступления что угодно.

Искусственный интеллект не исключение: