NXP Semiconductors heeft de toevoeging aangekondigd van twee nieuwe tools aan zijn eIQ ontwikkelingssoftware voor kunstmatige intelligentie en machine learning. Deze uitbreiding, die de GenAI Flow met verfijnde augmented generation door retrieval (RAG) en de eIQ Time Series Studio bevat, is bedoeld om de uitrol van AI-oplossingen aan de rand, van kleine microcontrollers (MCU’s) tot krachtige applicatieprocessors (MPU’s), te vergemakkelijken.
Nieuwe hulpmiddelen om de ontwikkeling van AI aan de rand te vereenvoudigen
De eIQ Time Series Studio tool introduceert een geautomatiseerde machine learning workflow die het ontwikkelen en uitrollen van op tijdreeksen gebaseerde modellen op MCU-klasse apparaten vereenvoudigt, zoals de MCX-reeks microcontrollers en de i.MX RT-reeks crossover MCU’s. Deze tool maakt het mogelijk om AI-modellen te creëren die zijn aangepast om sequentiële gegevens te analyseren, zoals spanning, temperatuur of trillingsignalen, en versnelt de ontwikkeling van toepassingen zoals anomaliedetectie en real-time gegevensclassificatie.
Aan de andere kant vergemakkelijkt GenAI Flow de implementatie van generatieve AI-modellen op randapparaten. Ontworpen voor de i.MX MPU-familie van NXP, maakt het mogelijk om grote taalmodellen (LLM’s) te trainen met contextspecifieke gegevens, ideaal voor toepassingen die interactie in natuurlijke taal vereisen. Een huishoudelijk apparaat uitgerust met een LLM getraind op zijn gebruiksaanwijzing zou bijvoorbeeld vragen van de gebruiker over het gebruik en onderhoud van het apparaat kunnen beantwoorden.
AI aan de rand: een praktische en efficiënte oplossing
De implementatie van AI aan de rand biedt vele voordelen, waaronder het verlagen van de latentie, het verbeteren van de privacy en het verminderen van het energieverbruik. Door zijn eIQ Toolkit uit te breiden, biedt NXP ontwikkelaars toegang tot een breed scala aan modellen, van generatieve AI tot op tijdreeksen en visie gebaseerde modellen, compatibel met een uitgebreide reeks randprocessors.
“AI is de sleutel voor een wereld die gebruikersbehoeften anticipeert en automatiseert, maar de ontwikkeling moet haalbaar zijn voor implementatie aan de rand. Met gebruiksklare tools, geschikt voor zowel kleine AI-modellen in MCU’s zoals de MCX-portfolio, als voor generatieve modellen in krachtigere apparaten zoals de i.MX 95 applicatieprocessor, biedt NXP ongekende opties voor ontwikkelaars in een breed scala aan markten,†zei Charles Dachs, Vice President en General Manager bij NXP Semiconductors.
Geavanceerde technologie voor AI-ontwikkelaars zonder ervaring in datawetenschappen
De eIQ Time Series Studio verkort de ontwikkelingstijd aanzienlijk door een intuïtieve interface te bieden die het mogelijk maakt om geoptimaliseerde modellen voor anomaliedetectie, classificatie en regressie te creëren zonder geavanceerde kennis van datawetenschappen. Het platform stelt ontwikkelaars in staat om gegevens te visualiseren, analyseren en automatisch modellen te genereren die zijn aangepast aan criteria voor prestaties, geheugen en nauwkeurigheid, en integreert de mogelijkheid om gegevens van meerdere sensoren samen te voegen.
Evenzo omvat GenAI Flow een methodologie van augmented generation door retrieval (RAG), die het mogelijk maakt om modellen veilig aan te passen aan specifieke domeingegevens en privé-informatie zonder de veiligheid in gevaar te brengen. Deze functionaliteit staat gebruikers toe om de LLM’s aan te passen aan de gewenste taak, ze te optimaliseren voor een veilige en efficiënte uitrol aan de rand.
Met deze nieuwe hulpmiddelen bevestigt NXP zijn belofte om AI aan de rand toegankelijk en praktisch te maken voor ontwikkelaars in een verscheidenheid aan industrieën. Belangstellenden kunnen meer informatie vinden en toegang krijgen tot de nieuwste versie van de eIQ ontwikkelomgeving op de website van NXP, waar ze ook een technisch document over de implementatie van generatieve AI aan de rand kunnen vinden.
via: NXP