IT-professionals en managers vertrouwen generatieve AI meer dan traditionele AI, terwijl slechts 40 procent investeert in AI-veiligheidsmaatregelen. Bedrijven die wel prioriteit geven aan betrouwbare AI hebben 60 procent meer kans op dubbele ROI van hun AI-projecten.
Dat blijkt uit onderzoek van IDC dat SAS liet uitvoeren. Bijna de helft van de respondenten geeft aan generatieve AI volledig te vertrouwen, terwijl slechts 18 procent hetzelfde zegt over traditionele AI (bijvoorbeeld machine learning). Dit terwijl traditionele AI juist de meest gevestigde en betrouwbare vorm is.
Hoewel 78 procent van de organisaties aangeeft AI volledig te vertrouwen, heeft slechts twee op de vijf daadwerkelijk geïnvesteerd in governance, uitlegbaarheid en ethische waarborgen. Deze discrepantie tussen gepercipieerd en werkelijk betrouwbaarheid vormt een risico.
“Er komt een tegenstrijdigheid naar voren uit ons onderzoek”, zegt Kathy Lange, Research Director AI & Automation Practice bij IDC. “Algemeen bekende AI-systemen met mensachtige interactie lijken namelijk het meest vertrouwen in te boezemen, ongeacht hun werkelijke betrouwbaarheid of nauwkeurigheid.”
Generatieve AI geniet meer vertrouwen
Het onderzoek werd uitgevoerd onder 2.375 IT-professionals en topmanagers uit Noord-Amerika, Europa, Azië-Pacific, het Midden-Oosten en Afrika. Opvallend is dat ook quantum AI, ondanks beperkte beschikbaarheid, al bij 26 procent volledig vertrouwen geniet.
De prioriteit voor betrouwbaarheidsmaatregelen blijft laag. Slechts 2 procent van de respondenten plaatste AI-governance bij de drie belangrijkste prioriteiten. Minder dan 10 procent werkt aan beleid voor verantwoord AI-gebruik. Dit terwijl organisaties die wel investeren in betrouwbare AI significant betere resultaten behalen.
Bedrijven die prioriteit geven aan betrouwbare AI hebben 1,6 keer meer kans op een dubbel of nog groter investeringsrendement, blijkt uit het onderzoek.
Datafundamenten blijven struikelblok
Traditionele uitdagingen blijven AI-implementaties hinderen. 49 procent noemt een niet-gecentraliseerde data-infrastructuur als grootste hinderpraal. Onvoldoende datagovernance (44 procent) en gebrek aan gespecialiseerde medewerkers (41 procent) volgen.
Voor het beheer van AI-data vormt toegang tot relevante databronnen het grootste probleem (58 procent). Dataprivacy- en complianceproblemen (49 procent) en datakwaliteit (46 procent) maken de top drie compleet.
“Het vertrouwen in AI is van cruciaal belang voor de samenleving, bedrijven en werknemers”, zegt Bryan Harris, Chief Technology Officer van SAS. “Hiertoe moet de AI-sector de succesgraad van implementaties verhogen, moeten mensen AI-resultaten met een kritische blik bekijken en moet het management werknemers de kracht van AI in handen geven.”