Павел Иевлев

Текст

Apple приближается к прорыву в области больших языковых моделей на устройствах

Компания Apple находится на пороге значительного технологического прорыва в области больших языковых моделей (LLM), способного произвести революцию в использовании этих систем искусственного интеллекта в iPhone и других устройствах Apple. Компания разрабатывает уникальную технологию, которая использует флэш-память для работы LLM, что может предоставить передовые возможности генеративного искусственного интеллекта непосредственно в руки пользователей.

Проект под кодовым названием Ajax призван сместить парадигму с серверной обработки данных, характерной для таких моделей, как ChatGPT, на работу полностью на устройстве. Такой подход согласуется с давним акцентом Apple на приватность и безопасность, позволяя осуществлять сложные взаимодействия с искусственным интеллектом без необходимости передачи данных на внешние серверы.

Одной из главных проблем при внедрении этой технологии был ограниченный объем оперативной памяти в iPhone, который обычно не соответствует требованиям для запуска сложных моделей ИИ. Предлагаемое Apple решение предполагает хранение части данных языковой модели непосредственно во флэш-памяти устройства, наряду с приложениями и фотографиями. Такой нетрадиционный подход позволит максимально использовать относительно большую емкость памяти, доступную в современных смартфонах.

Чтобы повысить производительность и сделать это возможным, исследователи Apple разработали два ключевых метода. Первый предполагает повторное использование уже обработанных данных, что может значительно ускорить выполнение повторяющихся задач и запросов. Второй направлен на эффективную группировку данных и доступ к ним для более быстрого извлечения из флеш-памяти, что улучшает общее время отклика и снижает нагрузку на процессор и графический чип устройства.

Ожидается, что эти инновации позволят удвоить скорость работы искусственного интеллекта в существующих моделях iPhone, что ознаменует значительное улучшение возможностей искусственного интеллекта на устройстве. Такие усовершенствования могут изменить взаимодействие пользователей с их устройствами, предлагая более сложные и отзывчивые функции ИИ без ущерба для конфиденциальности и производительности.

По слухам, Apple планирует представить новую технологию искусственного интеллекта для iPhone и iPad с выходом iOS 18 к концу 2024 года. В случае успеха этот прорыв может установить новый стандарт для персонального ИИ, делая акцент на конфиденциальности, скорости и эффективности, и, возможно, послужит толчком к изменению подхода других компаний к интеграции ИИ в мобильные устройства.

Что такое ChatGPT:

Читать на ЦО.РФ

ChatGPT: Языковая модель и текстовый ИИ  Что такое ChatGPT, для чего он нужен, куда развивается и что о себе думает

ChatGPT называют «прорывом, равным по значению появлению интернета», и о нем написано много статей. Однако мы решили спросить «Что такое ChatGPT?» у самого ChatGPT. Кто, как не он, имеет наилучший ответ о себе?

Использованные источники: