Skip to main content
PromptQuorum
Accueil/LLM locaux avancés/VLM dans les caméras et sur les drones 2026 : comprendre la vidéo en local
Mobile & Edge LLMs

VLM dans les caméras et sur les drones 2026 : comprendre la vidéo en local

·13 min de lecture·Par Hans Kuepper · Fondateur de PromptQuorum, outil de dispatch multi-modèle · PromptQuorum

Caméras et drones déplacent l'inférence en local car les limites de bande passante et de liaison — pas la confidentialité — rendent le streaming vidéo brut impraticable. Un flux de sécurité 4K continu coûte, sur sa fenêtre de rétention, plus cher en transport et stockage que l'accélérateur qui le traite directement dans la caméra. Un drone en portée opérationnelle fait face à une liaison radio intermittente, à faible bande passante et parfois contestée, si bien que le calcul embarqué est le seul moyen d'agir sur ce qu'il observe. Les deux cas soutiennent le même changement : de la détection d'objets à classes fixes vers une recherche VLM à vocabulaire ouvert, qui trouve un événement décrit plutôt que de faire correspondre une liste de classes figée.

Caméras et drones partagent une contrainte qui décide où s'exécute l'IA vidéo : la bande passante, pas le calcul, est la raison pour laquelle l'inférence se déplace vers l'appareil. Ce guide compare les architectures en caméra, en appliance de périphérie et en cloud pour l'analyse vidéo, explique le passage de la détection à classes fixes à la recherche VLM à vocabulaire ouvert, et couvre les plateformes de calcul déployées aujourd'hui dans les caméras et sur les drones.

VLM dans les caméras et sur les drones 2026 : comprendre la vidéo en local

Points clés

  • Les limites de bande passante et de liaison, pas la confidentialité, expliquent pourquoi l'inférence caméra et drone passe en local : un flux 4K continu coûte plus cher en transport et stockage que la puce qui le traite localement.
  • L'analyse vidéo passe de la détection à classes fixes à la recherche VLM à vocabulaire ouvert — décrire un événement en langage naturel plutôt que faire correspondre une liste de classes préentraînée.
  • Silicium caméra : Hailo-10H et Hailo-15 visent le GenAI embarqué sous 5 W ; la série N d'Ambarella (lancée au CES 2026) ajoute un SoC de vision IA 8K avec perception multi-capteurs.
  • Les appliances de périphérie (NVIDIA Jetson Orin/Thor) agrègent de nombreux flux caméra sur site ; Jetson Thor prend en charge jusqu'à 32 entrées caméra MIPI CSI-2.
  • Les drones exécutent le calcul sur la cellule : le Qualcomm QRB5165 via ModalAI VOXL 2 combine autopilote, odométrie visuo-inertielle sans GPS et inférence dans un module d'environ 16 g.
  • La plupart des déploiements réels sont hybrides — un détecteur léger à classes fixes tourne en continu ; le VLM ne traite que les clips déclenchés, pas chaque image.
  • Un VLM ne remplace pas la détection à classes fixes — il ajoute une recherche à vocabulaire ouvert par-dessus un détecteur qui continue le travail de tri continu, image par image.

Pourquoi l'IA vidéo passe-t-elle en local avant même que la confidentialité ne soit évoquée ?

Les limites de bande passante et de liaison physique sont la principale raison pour laquelle l'inférence caméra et drone passe en local — l'argument économique arrive avant l'argument de confidentialité. Une caméra 4K en streaming continu à 15–30 im/s génère un débit soutenu qui, multiplié sur plusieurs caméras d'un même site et une fenêtre de rétention de 30 jours, accumule des coûts de transport et de stockage plus vite que le coût unique d'un accélérateur embarqué ou d'une appliance de périphérie. Le calculateur plus bas sur cette page permet de faire ce calcul pour votre propre nombre de caméras et fenêtre de rétention.

Les drones font face à la même contrainte dans le sens inverse : au lieu de trop de données à déplacer à moindre coût, ils disposent de trop peu de liaison fiable sur laquelle compter. Un drone en portée opérationnelle a une liaison radio intermittente, à faible bande passante et parfois contestée — une mission qui dépend d'une connexion cloud continue pour interpréter ce que le drone observe échoue précisément quand l'appareil doit agir de façon autonome, par exemple lors d'un brouillage GPS ou hors de portée visuelle directe.

Ce cadrage diffère de l'argument de confidentialité que privilégie le contenu existant de ce site sur les LLM locaux pour l'IA grand public et de bureau. Pour les caméras et les drones, la première question de l'acheteur est « puis-je me permettre de déplacer autant de vidéo, et puis-je compter sur la stabilité de la liaison » — la confidentialité et la résidence des données sont de réels bénéfices secondaires, pas la raison d'être de l'architecture.

📍 En une phrase

L'IA vidéo passe en local parce que les coûts de transport et de stockage, ainsi que des liaisons radio peu fiables, rendent l'inférence dépendante du cloud impraticable avant même que la confidentialité entre en jeu.

💬 En termes simples

Déplacer la vidéo de chaque caméra vers un serveur coûte de l'argent et exige une liaison stable ; la traiter là où elle est captée évite les deux problèmes.

Faut-il exécuter l'inférence en caméra, sur une appliance de périphérie ou dans le cloud ?

Trois architectures gèrent aujourd'hui l'IA vidéo des caméras, et la plupart des déploiements en production en combinent au moins deux. Le bon choix dépend du nombre de caméras par site, des exigences de rétention et de la marge que le budget matériel peut absorber par unité.

L'inférence en caméra intègre l'accélérateur directement dans la caméra — Hailo-10H et Hailo-15 visent précisément ce point de conception sous 5 W. À utiliser quand chaque caméra doit prendre sa propre décision (enregistrement déclenché par mouvement, détection d'altération embarquée) et que la nomenclature de la caméra peut absorber une puce par unité.

L'appliance de périphérie sur site agrège de nombreux flux caméra dans un boîtier exécutant NVIDIA Jetson Orin ou Jetson Thor. À utiliser quand un site compte plus de caméras qu'il n'est raisonnable d'équiper individuellement — le fait que Jetson Thor prenne en charge jusqu'à 32 entrées caméra MIPI CSI-2 est un signal fort que cette plateforme est conçue précisément pour ce rôle d'agrégation multi-caméra, pas pour l'inférence sur un seul flux.

Le traitement cloud reste adapté aux sites à faible nombre de caméras sans exigence temps réel, où la recherche rétroactive dans l'archive complète sur plusieurs mois compte plus que la latence par clip et où le coût de bande passante d'une poignée de flux est acceptable.

En pratique, la plupart des déploiements décrits plus loin dans cet article sont hybrides : la détection à classes fixes tourne en continu en caméra ou sur l'appliance de périphérie, le stockage cloud conserve une archive pour la recherche rétroactive, et l'inférence VLM ne s'exécute que sur les clips qu'un détecteur moins coûteux a déjà signalés.

Comment l'analyse vidéo passe-t-elle de la détection à la description ?

L'analyse vidéo passe de la détection d'objets à classes fixes à la recherche VLM à vocabulaire ouvert — le changement le plus récent de ce marché. Un détecteur à classes fixes répond à « cette image contient-elle une personne, un véhicule, ou l'une des quelque 80 catégories COCO préentraînées ? ». Un VLM à vocabulaire ouvert répond à une requête décrite — « trouve le clip où quelqu'un a déposé un sac près du quai de chargement » — sur des images que le détecteur à classes fixes n'a jamais appris à reconnaître comme catégorie.

Un VLM ne remplace pas le détecteur à classes fixes — il s'appuie dessus. Un modèle vision-langage ne tournera pas à 30 images par seconde par flux dans un budget de puissance inférieur à 5 W ; le coût de calcul et de latence de l'inférence VLM complète est trop élevé pour un traitement continu image par image à ce niveau de puissance. À la place, le détecteur à classes fixes continue le travail de tri continu à faible consommation — mouvement, présence, classification de base — et seuls les clips qu'il signale sont transmis au VLM pour description ou recherche à vocabulaire ouvert.

Cette conception à deux niveaux explique pourquoi un silicium embarqué comme Hailo-10H est décrit comme un accélérateur « GenAI en périphérie » plutôt qu'un processeur VLM à pleine cadence : la puce est dimensionnée pour une inférence VLM déclenchée et intermittente, en complément d'une détection légère continue, pas pour faire tourner un modèle vision-langage à pleine fréquence d'image.

📍 En une phrase

La recherche VLM à vocabulaire ouvert trouve un événement décrit dans des images qu'un détecteur à classes fixes n'a jamais appris à reconnaître, mais elle ne s'exécute que sur des clips déclenchés, pas sur chaque image.

💬 En termes simples

L'ancienne méthode : « signaler tout ce qui correspond à personne/voiture/chien ». La nouvelle méthode : « trouve le clip où quelqu'un a déposé un sac près du quai » — avec vos propres mots, après qu'un détecteur moins coûteux a déjà signalé le clip.

  • Détection à classes fixes : continue, faible consommation, répond à « est-ce l'une des N catégories préentraînées ? »
  • Recherche VLM à vocabulaire ouvert : déclenchée, consommation plus élevée, répond à une description en langage naturel sur un clip précis
  • Les deux s'additionnent, ils ne se concurrencent pas — le détecteur décide ce qui est montré au VLM, pas l'inverse
  • Les configurations VLM de bureau et serveur (LLaVA, Qwen3-VL et modèles similaires) partagent les mêmes familles de modèles utilisées pour cette analyse de clips déclenchée — voir le comparatif VLM de bureau ci-dessous avant d'évaluer un déploiement embarqué

De combien de bande passante et de stockage votre site caméra a-t-il réellement besoin ?

Saisissez ci-dessous votre nombre de caméras, la résolution, la fréquence d'images et la fenêtre de rétention pour estimer la bande passante continue et le coût de stockage. À utiliser avant de choisir entre une architecture en caméra, en appliance de périphérie ou en cloud — le chiffre obtenu tranche généralement le débat à lui seul.

Estimated bandwidth & storage

Continuous bandwidth (all streams): 128 Mbps

Storage for the retention window: 41.5 TB

Estimates from typical H.264 surveillance-quality bitrates, scaled linearly with frame rate. Actual bitrate varies with scene complexity and codec.

Comment évaluer un déploiement VLM caméra ou drone ?

Six vérifications distinguent un déploiement qui fonctionne d'un déploiement qui échoue sur le terrain. Effectuez-les dans cet ordre avant de vous engager sur une plateforme silicium précise.

  1. 1
    Définir le déclencheur, pas le flux
    Why it matters: Décidez quel événement déclenche l'inférence VLM (mouvement, alarme d'un détecteur à classes fixes, intervalle programmé) avant de choisir le matériel — faire tourner un VLM sur chaque image de chaque flux n'est un budget de puissance ou de coût réaliste pour aucun déploiement en 2026.
  2. 2
    Mesurer le budget de liaison avant de choisir le silicium
    Why it matters: Pour les drones, mesurez la bande passante montante disponible et la latence dans le pire des cas à la portée opérationnelle avant de choisir une plateforme de calcul — la liaison radio de la cellule, pas la puce de calcul, est généralement la contrainte limitante.
  3. 3
    Garder détection et description comme des étapes séparées
    Why it matters: Faites tourner un détecteur léger à classes fixes en continu et n'acheminez que les clips signalés vers le VLM — c'est le seul moyen de faire tenir l'inférence VLM dans un budget de puissance caméra ou drone.
  4. 4
    Adapter le budget de puissance au boîtier physique
    Why it matters: Un boîtier caméra sans ventilateur plafonne le budget thermique autour de 5 W ; une charge utile de drone est plafonnée par le poids et les compromis d'autonomie de vol, pas seulement par la consommation — dimensionnez le silicium pour le boîtier, pas l'inverse.
  5. 5
    Valider le fonctionnement sans GPS si la mission peut perdre le GPS ou la liaison de commande
    Why it matters: L'odométrie visuo-inertielle (VIO) doit être testée spécifiquement, pas supposée fonctionner, avant de s'y fier hors de portée visuelle directe ou dans des environnements électromagnétiques contestés.
  6. 6
    Piloter sur un site ou une cellule avant de passer à l'échelle
    Why it matters: Validez le taux de faux positifs, la latence des requêtes et le comportement batterie/thermique sur un déploiement unique avant d'engager un budget pour un déploiement sur toute la flotte.

Pourquoi les drones traitent-ils la vidéo à bord plutôt que de la streamer ?

Les drones déplacent le calcul sur la cellule pour trois raisons : la marge de liaison, la latence et la navigation sans GPS — pas parce que le calcul embarqué serait moins cher. La liaison radio d'un drone se dégrade avec la portée, le terrain et les interférences d'une façon que le câble Ethernet d'une caméra fixe ne connaît jamais ; une mission qui dépend d'une connexion cloud continue pour interpréter la vidéo échoue précisément quand l'appareil est le plus éloigné de son opérateur et a le plus besoin d'autonomie.

Le VOXL 2 de ModalAI, construit autour du Qualcomm QRB5165, est la plateforme de référence pour la conception de calcul embarqué sur cellule. Il est compatible PX4, prend en charge l'odométrie visuo-inertielle (VIO) sans GPS pour naviguer quand le positionnement satellite est indisponible ou brouillé, et regroupe autopilote, calcul et capteurs de navigation dans un module de classe autopilote d'environ 16 grammes — assez petit pour concurrencer la charge utile et la batterie pour le même budget de poids, pas une alimentation électrique séparée.

Le poids et la puissance sont des contraintes strictes sur une cellule, d'une façon qu'ils ne le sont pas pour une caméra fixée au mur. Chaque gramme de calcul embarqué est un gramme indisponible pour la capacité de batterie, la charge utile de capteurs ou l'autonomie de vol — une plateforme drone ne peut pas simplement ajouter une unité de rack comme un site caméra sur site peut ajouter une appliance de périphérie.

  • Marge de liaison : la connectivité radio se dégrade avec la portée, le terrain et le spectre contesté d'une façon que l'infrastructure caméra filaire ne connaît pas
  • Latence : une décision en temps réel (évitement d'obstacle, suivi de cible) ne peut pas attendre un aller-retour vers un serveur cloud
  • Navigation sans GPS : l'odométrie visuo-inertielle permet à l'appareil de conserver sa position et son cap quand le positionnement satellite est indisponible
  • Budget de poids : un module de calcul de classe autopilote d'environ 16 g entre directement en concurrence avec la batterie et la charge utile, contrairement au boîtier d'une caméra fixe

Où les VLM caméra et drone sont-ils déjà utilisés commercialement ?

Quatre catégories commerciales représentent la majorité des déploiements en production aujourd'hui : inspection d'infrastructures et de réseaux, agriculture de précision, relevé et cartographie, et sécurité publique.

  • Inspection d'infrastructures et de réseaux : des drones équipés de calcul embarqué inspectent lignes de transmission, oléoducs et pylônes télécom, en signalant les défauts visibles sans streamer les images brutes pour révision
  • Agriculture de précision : la vision embarquée distingue le stress des cultures, la pression des adventices et les problèmes d'irrigation par parcelle, en alimentant les décisions des systèmes de gestion agricole sans liaison cloud continue dans des zones rurales à faible connectivité
  • Relevé et cartographie : les drones de photogrammétrie et d'inspection traitent l'imagerie à bord ou sur une appliance de périphérie pour réduire le volume de données brutes à transporter et à stocker par vol
  • Sécurité publique : les réseaux de caméras fixes combinent détection à classes fixes continue et recherche VLM déclenchée — par exemple pour retrouver un incident décrit dans une archive plutôt que de visionner manuellement des heures d'images

📌Remarque: Les programmes militaires façonnent aussi ce marché du silicium. Le logiciel d'autonomie Hivemind de Shield AI a été retenu pour le programme Collaborative Combat Aircraft (CCA) YFQ-44A de l'US Air Force, et le logiciel Lattice d'Anduril a été testé sur la même cellule. Cette demande au niveau des programmes pour des piles d'autonomie est l'un des moteurs de l'investissement dans le silicium d'inférence embarquée, bien que le parcours de certification, l'acheteur et les exigences des programmes de défense soient entièrement différents des déploiements commerciaux décrits ci-dessus et sortent du cadre de ce guide.

Comparatif : plateformes de calcul pour caméras et drones

Pour les spécifications complètes de Jetson Orin et Jetson Thor, consultez le guide du silicium embarqué — ce tableau reste centré sur les plateformes spécifiques aux caméras et aux drones les plus pertinentes pour l'analyse vidéo.

Plateforme
Budget de puissance
Idéal pour
Statut
Hailo-10H / Hailo-15<5 WGenAI embarquée, tri VLMPrésenté à ISC West 2026
Ambarella série NSoC vision IA embarquéePerception multi-capteurs 8KLancé au CES 2026
NVIDIA Jetson Orin / ThorClasse 15–130 WAppliance multi-caméraThor : jusqu'à 32 caméras MIPI
Qualcomm QRB5165 (VOXL 2)Module classe droneAutopilote + VIO + inférenceCompatible PX4, ~16 g

Quel matériel faut-il pour démarrer ?

Quatre catégories de matériel couvrent la plupart des projets VLM caméra et drone ; vérifiez les offres actuelles des revendeurs et distributeurs, les prix changeant fréquemment.

  • Modules caméra et kits de développement : cartes caméra de référence associées à un accélérateur embarqué, utilisées pour prototyper un pipeline en caméra avant de s'engager sur un design caméra sur mesure
  • Modules accélérateurs Hailo M.2 : ajoutent une inférence IA sous 5 W à une caméra ou une carte de calcul embarquée existante via un connecteur M.2, sans refondre la carte principale de la caméra
  • Appliances vidéo de périphérie : kits de développement NVIDIA Jetson Orin et Jetson Thor, utilisés pour prototyper l'architecture d'agrégation multi-caméra décrite plus haut avant de déployer une flotte d'appliances sur site
  • Plateformes de développement drone : kits de développement ModalAI VOXL 2, utilisés pour prototyper des pipelines d'autopilote PX4 et d'inférence embarquée avant intégration sur une cellule de production

Que ne fait-on pas encore en local ?

Trois capacités restent, en 2026, du ressort du cloud ou de la recherche, et aucun accélérateur classe caméra ou drone ne change cela cette année.

  • Compréhension vidéo à long horizon : raisonner sur un enregistrement de plusieurs heures en une seule passe, plutôt que sur une analyse de clip déclenchée, dépasse encore le budget mémoire et calcul des accélérateurs embarqués
  • Ré-identification inter-caméras à grande échelle : suivre de façon fiable un sujet décrit sur de nombreux flux caméra et sites reste une tâche mieux adaptée à un système centralisé ayant accès à l'archive multi-caméra complète
  • Grand contexte sur des heures d'images : une requête à vocabulaire ouvert qui doit raisonner sur l'enregistrement d'une journée entière, plutôt que sur un clip précis signalé, demande encore plus de contexte et de calcul que ce que permet le budget de puissance d'un accélérateur embarqué

Quelles règles juridiques et d'acquisition s'appliquent ?

Dans l'UE, les catégories de drones de l'EASA — Ouverte, Spécifique, Certifiée — déterminent le niveau d'autonomie autorisé par opération, et le marquage CE ainsi que la directive RED (Radio Equipment Directive) s'appliquent au matériel. Pour un projet caméra ou drone en France ou dans l'UE, la catégorie d'exploitation n'est pas une simple formalité — elle détermine quelles fonctions d'autonomie (par exemple une logique automatisée de détection et de réaction) peuvent être exploitées sans autorisation supplémentaire. La CNIL recommande par ailleurs le traitement local pour les données professionnelles sensibles (financières, médicales, juridiques) captées par ce type de systèmes. Un intégrateur système devrait clarifier la catégorie EASA visée avant de spécifier le matériel et les fonctions d'autonomie, pas après.

Questions fréquemment posées

Pourquoi les systèmes d'IA caméra et drone exécutent-ils l'inférence en local plutôt que dans le cloud ?

Les limites de bande passante et de liaison, pas la confidentialité, en sont la principale raison. Un flux caméra 4K continu coûte, sur sa fenêtre de rétention, plus cher en transport et stockage que l'accélérateur qui le traite localement, et un drone en portée opérationnelle a une liaison radio intermittente, parfois contestée, qu'une dépendance au cloud ne peut tolérer.

Quelle est la différence entre détection à classes fixes et recherche VLM à vocabulaire ouvert ?

Un détecteur à classes fixes répond si une image contient l'une des catégories préentraînées (environ 80 pour un modèle typique entraîné sur COCO). Un VLM à vocabulaire ouvert répond à une requête décrite — par exemple « trouve le clip où quelqu'un a déposé un sac près du quai de chargement » — sur des contenus que le détecteur à classes fixes n'a jamais appris à reconnaître comme catégorie.

Un modèle vision-langage peut-il tourner en temps réel sur un accélérateur caméra sous 5 W ?

Pas à pleine cadence. Un VLM ne tourne pas à 30 images par seconde par flux dans un budget de puissance inférieur à 5 W. En pratique, un détecteur léger à classes fixes tourne en continu à faible consommation, et seuls les clips qu'il signale sont transmis au VLM pour description à vocabulaire ouvert — le VLM s'exécute sur des clips déclenchés, pas sur chaque image.

Quelle plateforme de calcul les drones commerciaux utilisent-ils pour l'IA embarquée ?

Le VOXL 2 de ModalAI, construit autour du Qualcomm QRB5165, est une plateforme de référence largement utilisée. Il est compatible PX4, prend en charge l'odométrie visuo-inertielle sans GPS pour la navigation, et regroupe autopilote, calcul et capteurs de navigation dans un module d'environ 16 grammes.

De combien de bande passante une seule caméra de sécurité 4K a-t-elle réellement besoin ?

Cela dépend de la fréquence d'images, de la complexité de la scène et du codec — utilisez le calculateur de bande passante de cette page pour estimer la bande passante continue et le coût de stockage pour votre nombre de caméras, résolution, fréquence d'images et fenêtre de rétention précis, plutôt que de vous fier à un chiffre forfaitaire.

Faut-il choisir Hailo-10H ou la série N d'Ambarella pour un nouveau design de caméra ?

Ils visent des positions qui se recoupent mais restent distinctes : Hailo-10H et Hailo-15 se concentrent sur l'inférence GenAI embarquée sous 5 W, tandis que la série N d'Ambarella (lancée au CES 2026) est positionnée comme un SoC de vision IA 8K avec perception multi-capteurs. Le bon choix dépend de la résolution visée, du budget de puissance et du besoin ou non de fusion multi-capteurs dans la même puce.

Pourquoi les drones ont-ils besoin d'une navigation sans GPS, et comment le VOXL 2 la gère-t-il ?

Les signaux GPS peuvent être brouillés, usurpés ou simplement indisponibles en intérieur ou dans des environnements contestés. Le VOXL 2 prend en charge l'odométrie visuo-inertielle (VIO), qui fusionne les données caméra et capteurs inertiels pour estimer position et cap sans dépendre du positionnement satellite.

Quelle catégorie EASA s'applique à l'inspection commerciale par drone dans l'UE ?

Cela dépend de l'opération : l'EASA distingue les catégories Ouverte (faible risque, règles standard), Spécifique (une évaluation des risques avec autorisation d'exploitation spécifique est généralement requise pour l'inspection d'infrastructures et d'installations industrielles) et Certifiée (comparable à l'aviation habitée). Un intégrateur système devrait clarifier la catégorie avant de spécifier le matériel et les fonctions d'autonomie, pas après.

Faut-il une appliance de périphérie, ou chaque caméra peut-elle exécuter l'inférence seule ?

Cela dépend du nombre de caméras par site. Une poignée de caméras peut chacune exécuter l'inférence en caméra de façon indépendante (puces de classe Hailo-10H/15). Un site avec de nombreuses caméras bénéficie généralement d'une appliance de périphérie sur site (NVIDIA Jetson Orin ou Thor) qui agrège les flux de façon centralisée — Jetson Thor prend en charge jusqu'à 32 entrées caméra MIPI CSI-2 dans un seul boîtier, un signal fort de son rôle multi-caméra prévu.

Que ne peuvent pas encore faire les VLM en local pour l'analyse vidéo ?

Trois capacités restent, en 2026, du ressort du cloud ou de la recherche : le raisonnement à long horizon sur un enregistrement de plusieurs heures en une seule passe, la ré-identification inter-caméras d'un sujet à grande échelle, et les requêtes à vocabulaire ouvert nécessitant un contexte couvrant l'enregistrement d'une journée entière plutôt qu'un clip précis signalé.

← Retour aux LLM locaux avancés