Generatieve AI-tools als ChatGPT en Dall-E zijn zeer populair aan het worden. Toch plaatsen veel IT-professionals kanttekeningen bij de inzet van deze toepassingen, volgens recent onderzoek van Salesforce. Vooral vanuit technisch en ethisch perspectief.
Bedrijven, maar ook consumenten gebruiken steeds vaker generatieve AI-tools als ChatGPT en Dall-E voor hun werkzaamheden en andere activiteiten. Volgens het onderzoek van Salesforce geeft een meerderheid van de ondervraagde IT-professionals aan dat deze nieuwe technologie voor hen en hun bedrijven belangrijk is.
Meer dan een derde stelt dat zij deze technologie binnen 18 maanden ook daadwerkelijk willen inzetten. Iets meer dan de helft geeft aan dat AI tooling als ChatGPT een echte ‘game changer’ is. Vooral omdat ze met data dan beter hun klanten van dienst kunnen zijn en taken kunnen automatiseren.
Tip: Salesforce introduceert Einstein GPT voor sales, service, marketing en developers
Kanttekeningen
Ondanks al deze mooie vooruitzichten plaatsen de IT’ers wel kanttekeningen bij de inzet van dit soort generatieve AI tools. Niet alleen heeft de technologie last van kinderziektes, maar zij hebben ook meerdere technische en zelfs ook ethische bezwaren tegen het gebruik van tools als ChatGPT.
Op technisch vlak zien de respondenten vooral securitybezwaren en implementatieproblemen in hun huidige technologiestack. Een derde geeft aan dat de generatieve AI-technologie ‘overhyped’ is en dat nog maar moet worden gezien of deze technologie compleet in de bestaande stack kan worden geïmplementeerd.
Twee derde geeft zelfs aan dat zij op dit moment nog niet zijn voorbereid op de integratie van generatieve AI-technologie. Vooral vanuit security-oogpunt zijn er nog bezwaren. Ook moeten medewerkers nog worden getraind in het gebruik van deze tools en moeten er nieuwe strategieën worden ontwikkeld.
Ethische bezwaren
Op het gebied van ethische bezwaren stelt iets meer dan de helft van de ondervraagde IT-professionals dat AI outputs inaccuraat kunnen zijn en bijna twee derde is het eens dat resultaten mogelijk een bepaalde vooringenomenheid hebben en daardoor desinformatie of racistisch taalgebruik kunnen genereren.
Bijna alle ondervraagde professionals geven daarom aan dat hun bedrijven zich op de zowel technische als ethische problemen moeten voorbereiden als zij de AI-technologie gaan implementeren.
Slechts 30 procent geeft echter aan dat ethische richtlijnen moeten worden opgesteld. Wel geeft een ruime meerderheid aan dat op basis van publieke en private bronnen moet worden voorkomen dat AI-antwoorden slechte informatie geven. Daarnaast geeft ook een groot percentage aan dat zij met andere bedrijven op het ethisch gebied voor AI tools willen samenwerken.
15 uur geleden
