IBM gaat een nieuw onderdeel toevoegen aan het dataplatform watsonx. Met watsonx.governance moeten organisaties de tools krijgen om het vertrouwen in generatieve AI te versterken.
IBM geeft bij de presentatie van het nieuwe watsonx-onderdeel aan dat generatieve AI veel use cases binnen bedrijven mogelijk maakt, maar dat er ook nieuwe risico’s en complexiteiten bij komen kijken. Zo maken LLM’s bijvoorbeeld gebruik van data afkomstig van het internet, waarvan het moeilijk is om te valideren op eerlijkheid en nauwkeurigheid. Ook kan de output van LLM’s lastig uit te leggen zijn.
Governance
Met watsonx.governance moeten organisaties een toolkit krijgen die de risico’s aanpakt. Ten eerste door proactief risico’s te detecteren en mitigeren. Hiervoor meet de IBM-tool de eerlijkheid en bias van LLM’s. Ook wil IBM helpen met een “nutrition label” voor AI, waardoor organisaties moeten voldoen aan toekomstige AI- en datareguleringen.
De watsonx.governance-oplossing maakt het mogelijk om het beheer, de monitoring en governance rond modellen te regelen. Het kan in dit geval gaan om modellen van IBM zelf, maar ook om modellen uit de open-source community en andere aanbieders.
“Watsonx.governance is een one-stop-shop voor bedrijven die moeite hebben met het implementeren en beheren van zowel LLM- als ML-modellen, waardoor bedrijven de tools krijgen die ze nodig hebben om AI-beheerprocessen te automatiseren, hun modellen te monitoren en corrigerende maatregelen te nemen, allemaal met verhoogde visibility. Het vermogen van het bedrijf om regelgeving te vertalen in afdwingbaar beleid zal voor bedrijven alleen maar belangrijker worden naarmate nieuwe AI-regelgeving wereldwijd ingang vindt”, aldus Kareem Yusuf, Senior Vice President, Product Management and Growth bij IBM.
Watsonx.governance is onderdeel van het AI- en dataplatform IBM watsonx. Hier vallen ook twee andere onderdelen onder: watsonx.ai en watsonx.data. De eerste helpt ontwikkelaars bij het tunen van AI, terwijl de tweede oplossing een lakehouse toevoegt.
Tip: IBM Watson Health trekt stekker uit Drugs Discovery-service
1 dag geleden
Expert bijdrage
