Het regent dagelijks nieuwe buzzwords, maar ‘AI engineering’ is er eentje om te onthouden. Het is het missende onderdeel dat ervoor zorgt dat AI niet langer in een pilot blijft steken, maar ook in productie gebracht wordt. Het concept is bepalend voor de toekomst van AI in bedrijven en wordt ondersteund door de juiste skills en technologie.
Intussen kunnen we woordenboeken vullen met fancy technologietermen en ‘Ops’. Maar vaak zijn het weinigzeggende woorden die hun betekenis verliezen in de buzz die ze creëren. AI Engineering gaat echter een stapje verder. Enerzijds is het wel een hype, want je hoort de term overal: van de directie tot tech-events en LinkedIn-feeds. Maar anderzijds zit er ook een visie achter. En als we die goed toepassen, dan zet AI engineering een belangrijke stap naar waardevolle innovatie.
Van data scientist tot ML-engineer
Hoe kunnen we de rol van een AI-engineer het best omschrijven? Laten we daarvoor eerst naar de andere rollen in het AI-proces kijken. Iedere organisatie gaat door drie fasen: het experimenteren met data, het bouwen van AI-modellen en het in productie zetten van die AI-systemen. In de eerste fase, het ontwikkelen van een pilot, vinden we de data scientist. Deze persoon legt zich toe op data-analyse en bouwt Machine Learning-modellen zoals voorspellende forecasts. Dit gebeurt in samenwerking met de business en eindgebruikers die problemen met data willen oplossen.
In de tweede fase komen we terecht bij de Machine Learning-engineer. Na een succesvolle pilot die voldoet aan de minimumverwachtingen, is het de ML-engineer die de oplossing in productie brengt. Dit betekent dat de gebruikte data en gebouwde modellen in de bedrijfsprocessen worden geïntegreerd. Bijvoorbeeld om ervoor te zorgen dat marketeers of het verkoopdepartement elke maand een overzicht krijgen van de klanten die extra ondersteuning nodig hebben. ML-engineers bouwen data- en model-pipelines op basis van het werk van de data scientist.
De rol van een AI-engineer
Een AI-engineer krijgt te maken met gelijkaardige uitdagingen. Daardoor zijn ML-engineers op het eerste gezicht goede kandidaten om door te groeien naar een rol in AI-engineering. Toch is daar herscholing voor nodig, want het werk van AI-engineers is complexer. Waar ML-engineers voornamelijk werken met deterministische modellen die steeds dezelfde output genereren, maken nieuwere AI-systemen gebruik van generatieve technologie waar ook de Large Language Models (LLM’s) onder vallen. Deze systemen zijn variabeler en kunnen autonoom op dezelfde vraag verschillende antwoorden geven, afhankelijk van de context.
AI-engineers verleggen de focussen naar het eindresultaat, wat op het einde van de rit het belangrijkst is voor het bedrijf. Het verleden heeft uitgewezen dat organisaties die enkel gebruik maken van data scientists, vaak in een oneindige ontwikkelingsfase blijven hangen. Zelden wordt er iets in productie gebracht. Organisaties die daarentegen met AI-engineers werken, zullen een mindset kweken waarbij ze onmiddellijk het eindresultaat voor ogen houden.
De AI-engineer is de laatste schakel in het technische ontwikkelingsproces en brengt de oplossing tot bij de eindgebruiker. Maar vergis je niet: het werk van deze persoon begint al bij het uitdenken van het systeem en ondersteunt andere rollen om na te denken over het gewenste eindresultaat. Een goede AI-engineer werkt volgens de filosofie ‘Start with the end in mind’ en zoekt naar een antwoord op de vraag waar je met een systeem naartoe wil en welke problemen het wil oplossen.
Focus op governance
Ondersteund met de juiste technologie zorgen AI-engineers ervoor dat AI de cruciale stap naar een productieomgeving zet en waardevol blijft. SAS Viya is een end-to-end platform dat dit volledige proces ondersteunt. Nadien maken AI-engineers ook deel uit van een heel belangrijk governance-luik. Zo is één van hun taken het consistent houden van modellen, en detecteren van “onbetrouwbare” LLMs, zodat deze modellen niet hallucineren en steeds de bedrijfslogica blijven volgen. Met SAS Model Manager beschikken AI-engineers over een centrale plaats voor het beheren van modellen. Hiermee houden ze de vinger aan de pols en krijgen ze een alarm als iets niet goed functioneert.
Niet alleen cijfers over prestaties zijn belangrijk in de opvolging van een model. Ook kwalitatieve informatie is daarbij essentieel. Wie is verantwoordelijk voor welke stap in het AI-systeem? Wie is de eindverantwoordelijke bij een beslissing? Voldoet alles aan de regels van de EU AI Act? Daarom krijgen AI-engineers met SAS Model Risk Manager toegang tot een bibliotheek die documentatie over de systemen bevat. De oplossing garandeert geen compliance, maar geeft wel richtlijnen, zodat AI-engineers weten waarmee ze rekening moeten houden.
Tot slot moeten bedrijven niet alleen systemen monitoren die werken op basis van eigen data, maar ook andere AI-tools zoals ChatGPT. Met SAS AI Navigator biedt SAS daarom een tool aan die C-level een goed overzicht geeft van alle AI in de organisatie. Het zorgt voor een 360°-beeld van het landschap en levert zo ook een antwoord op de groeiende uitdagingen rond Shadow-AI. Al deze oplossingen zorgen samen voor een solide basis om experimenten te vertalen naar modellen met businessimpact en een sterk governance-framework.
En nu?
AI-engineering is geen solodiscipline. Ze steunt op samenwerking tussen alle stakeholders van een AI-systeem: van AI-translators tot ethische experts en praktijkmensen. Als die perspectieven samenkomen met gespecialiseerde technologie, kunnen geïsoleerde experimenten worden vertaald naar schaalbare, betrouwbare systemen.
AI engineering gaat verder dan technische expertise alleen. Het is een collectieve praktijk die mee vorm geeft aan de toekomst. Vooruitgang blijft in essentie menselijk: onze creativiteit, ons beoordelingsvermogen en onze waarden bepalen hoe technologie wordt ingezet en welke impact ze heeft. Daarom is het nu het moment om AI-technologie beter te begrijpen en implementaties doordacht aan te pakken. Laten we streven naar verantwoorde AI-engineering, waarin tools en waarden samen evolueren.
Dit is een ingezonden bijdrage van SAS. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.