Представлен офлайновый чат-бот PrivateGPT Он полностью конфиденциален
В отличие от многочисленных чат-ботов новый инструмент позволяет пользователям общаться с ним и задавать вопросы без подключения к интернету. PrivateGPT запускается на компьютере локально — для этого нужно лишь загрузить большую языковую модель с открытым исходным кодом gpt4all. Затем надо поместить все соответствующие файлы в каталог, чтобы модель могла их обработать.
После обучения модели пользователи могут задавать ей любые вопросы — чат-бот отвечает, используя документы, предоставленные в качестве контекста. PrivateGPT может обрабатывать более 58 тысяч слов, но для его устойчивой работы от компьютера потребуются существенные вычислительные ресурсы.
Торо утверждает, что PrivateGPT аналогичен по функционалу чат-боту ChatGPT, но является при этом более персонализированным и безопасным в использовании. По его словам, идея создать офлайновый чат-бот пришла ему после того, как юридический отдел его компании хотел обобщить некий документ с помощью ChatGPT, но это оказалось невозможным из-за рисков конфиденциальности.
Здесь мы рассказываем, что такое ChatGPT и как он работает:
Использованные источники: Unsplash