Исследователи из Колледжа информационных технологий Университета ОАЭ и Школы компьютерных и информационных технологий Университета Биконхаус Националь в Пакистане предложили использовать большие языковые модели для управления вычислительными ресурсами в сетях подключенных автомобилей. По сути это решение позволит беспилотным автомобилям быстрее обрабатывать данные с камер и датчиков и не терять драгоценные доли секунды в сложной дорожной ситуации.
Современные автомобили, как известно, превращаются в настоящие центры обработки данных на колесах. Они оснащены десятками датчиков, камер и радаров, которые непрерывно генерируют огромные объемы информации. Эти данные нужно мгновенно анализировать, чтобы автомобиль мог распознать препятствие, оценить дистанцию и принять решение о маневре. Но бортовой компьютер не всегда справляется с такой нагрузкой в реальном времени. В этом случае часть вычислений можно передать другим участникам сети – соседним автомобилям или специальным придорожным вычислительным узлам. Такой процесс называется динамической разгрузкой задач.
До сих пор существующие методы разгрузки сталкивались с серьезными трудностями. Традиционные алгоритмы, в том числе основанные на обучении с подкреплением, плохо адаптируются к быстро меняющемуся дорожному потоку. Автомобили постоянно движутся, расстояние между ними меняется, качество связи колеблется. В результате система может выбрать не самый надежный канал, и задачу придется выполнять повторно, что увеличивает задержку и расход энергии.
Исследователи разместили на придорожных вычислительных узлах компактную языковую модель, схожую по архитектуре с теми, что используются в чат-ботах, но обученную решать инженерные задачи. Вместо генерации текста модель анализирует параметры дорожной среды: скорость и траекторию автомобилей, доступную вычислительную мощность, пропускную способность канала связи, уровень заряда батареи и требования конкретной задачи. На основе этих данных она выбирает оптимальный вариант – оставить расчет в текущем автомобиле, передать соседнему или отправить на придорожный сервер.
Для обучения модели был создан специальный набор данных, объединяющий реальные транспортные сценарии и результаты компьютерного моделирования. Модель обучали минимизировать задержку выполнения, снижать энергопотребление и учитывать устойчивость связи. Важным элементом стал прогноз времени, в течение которого автомобили смогут поддерживать стабильное соединение. Если существует риск разрыва связи до завершения вычислений, система заранее отказывается от такого варианта.
В симулированной среде предложенная система на базе модели Llama 3.2:1b продемонстрировала заметные преимущества. По сравнению с лучшими традиционными алгоритмами задержка выполнения задач сократилась в среднем на 15,3%, энергопотребление – на 22,1%, а успешность выполнения достигла 97,5% даже при высокой плотности трафика.
Кроме того, благодаря методам сжатия и оптимизации время принятия решения на графическом ускорителе сократилось в 30-40 раз по сравнению с обычным процессором – до 8-10 миллисекунд. Это уже соответствует требованиям реального времени.
