Die neue IBM-Plattform: „Watsonx kann das, was ChatGPT nicht kann.” 

Was ist watsonx und wie kann die Plattform der digitalen Unternehmenskommunikation nutzen? Das verrät uns Dr. Wolfgang Hildesheim, AI-Ambassador und Head of Watson, Data Science & Artificial Intelligence bei IBM in der DACH-Region, im Interview. Er war lange Mitglied der Steuerungsgruppe der Deutschen Normungsroadmap für die Bundesregierung im Bereich KI und ist Vorstandsmitglied des Arbeitskreises KI bei der Bitkom. Er spricht mit uns über die kürzlich veröffentlichte IBM-Plattform watsonx und wie sie KI für Unternehmen anpassbar und nutzbar macht.

Interview mit dem Head of Watson bei IBM, Dr. Wolfgang Hildesheim  

IBM bringt die Plattform watsonx ins Spiel und schafft so eine Plattform, die KI für Unternehmen anpassbar und nutzbar macht. Wir sprechen mit Dr. Wolfgang Hildesheim, AI-Ambassador und Head of Watson, Data Science & Artificial Intelligence bei IBM in der DACH-Region. Er war lange Mitglied der Steuerungsgruppe der Deutschen Normungsroadmap für die Bundesregierung im Bereich KI und ist Vorstandsmitglied des Arbeitskreises KI bei der Bitkom. Er verrät uns, was watsonx ausmacht und inwiefern watsonx für die digitale Unternehmenskommunikation von Bedeutung sein kann.  

NetFed: Guten Tag Herr Dr. Hildesheim, schön, dass Sie die Zeit zum Gespräch mit uns gefunden haben. Vermutlich hatten Sie anlässlich des watsonx-Day recht viel zu tun? 

Dr. Hildesheim: Ja, wir sind natürlich bei dem Thema der generativen KI hochkonzentriert und begeistert engagiert, deshalb freue ich mich besonders über Ihre Einladung zu diesem Gespräch.  

KI kommt immer mehr bei den Konsumenten an 

NetFed: Im AI-Bereich haben viele Unternehmen sich sehr beeilt, um ihre Produkte schnell der Öffentlichkeit zu präsentieren. IBM gehört da schon fast zu den Nachzüglern. War das die Strategie frei nach Konfuzius: “Wenn Du es eilig hast, gehe langsam.”? 

Dr. Hildesheim: Wenn man ein ernst zu nehmender KI-Experte ist, dann weiß man, dass KI eine Vielzahl von verschiedenen Technologien umfasst. Da gibt es die klassische KI auch mit Vorhersagen, mit Optimierungsproblemen zum Beispiel. Dann gibt es die symbolische KI bei Suchalgorithmen, Darstellungen von Wissen und dann eben die neueren Themen: das tiefe Lernen und die generative KI. Bei vielen dieser Themen ist die IBM immer schon ein Vorreiter gewesen. IBM hält zum Beispiel eine Vielzahl von Patenten im Bereich Machine Learning, viel mehr als die bekannten Wettbewerber, was damit zusammenhängt, dass IBM über eine der größten privaten Forschungsorganisationen der Welt verfügt. Insofern arbeiten wir an vielen dieser Themen schon seit langem. IBM ist einer der Pioniere in Sachen KI. Und wir konzentrieren uns darauf, KI speziell für den Unternehmenskontext zu entwickeln. Mit dem Aufkommen von ChatGPT ist das Thema in der breiten Öffentlichkeit angekommen. ChatGPT ist eine Anwendung auf der Basis eines großen Large Language Models (LLM) – dem GPT-Modell -, das Fragestellungen generisch beantwortet. Im Consumer-Umfeld hat ChatGPT KI plötzlich sehr anfassbar und erlebbar gemacht. Allerdings haben Unternehmen besondere Anforderungen an den Einsatz von KI.  

Unternehmensspezifisches Training für KI-Anwendungen mit watsonx 

NetFed: Watson begleitet viele Unternehmen als Chatbot ja schon recht lange, das Interesse an starker KI im Chatbot-Bereich ist groß - was unterscheidet watsonx von dem Watson, den viele schon kennen?  

Dr. Hildesheim: IBM hat ja schon vor über zehn Jahren mit der Automatisierung von Chats und Sprache angefangen. Watson war damals ein Leuchtturmprojekt in der Quizshow Jeopardy! und hat gegen den Champion gewonnen. Seitdem wurde die darin verfügbare Technologie umgebaut in einen Werkzeugkasten mit einzelnen Fähigkeiten. Zum Beispiel den Watson Assistant, Watson Discovery und andere, damit diese Fähigkeiten dann schneller, automatischer und billiger zur Verfügung gestellt werden.  

Deshalb wird die IBM in verschiedenen Studien auch als der Total-Cost-of-Ownership-Führer gesehen, mit dem man am schnellsten mit der besten Qualität zum günstigen Preis seine Chatbots, Voicebots und Smarte Assistenten bauen kann. Das ist die Grundlage, auch Ihr Unternehmen nutzt das ja, um die Unternehmenskommunikation zu unterstützen oder automatisch Tag und Nacht zu informieren.  

Und jetzt kommt die generative KI obendrauf. Watsonx ist eine KI-, Daten- und Governance-Plattform, die auf die Anforderungen von Unternehmen zugeschnitten ist, um KI-Modelle passend zu Geschäftsanforderungen zu erstellen und gleichzeitig mittels Governance beispielsweise ethische und rechtliche Anforderungen zu berücksichtigen. Watsonx wird ganz spezifisch mit Unternehmensdaten trainiert und kann damit das, was ChatGPT nicht kann: Konkrete unternehmensspezifische Fragen beantworten und nachvollziehen, wie die Antwort zustande kommt. Watsonx ist also wie ein sehr intelligenter Insider meines Unternehmens, dem ich vertrauen kann. 

Integrierbare Services für Chatbots & Co. 

NetFed: Bei welchen Themen der Unternehmenskommunikation können Watson APIs oder watsonx unterstützen?  

Dr. Hildesheim: Wir haben zum Beispiel bei uns in der IBM Public Cloud in Frankfurt einen Service, der heißt Neural Seek. Das ist ein sogenannter generativer Service, der Texte generiert. Diesen Service können wir zum Beispiel in Ihren Chatbot integrieren. Sie würden damit weniger Aufwand haben, selbst diese Texte zu formulieren. Oder wenn Sie ein Unternehmen als Kunden haben, können Sie die Dokumente aus dem Bereich Unternehmenskommunikation, Pressemitteilungen, Geschäftsberichte etc. dort hineingeben, dann findet Watson Discovery, wenn man etwas Bestimmtes sucht, die entsprechenden Links und dann würde Neural Seek daraus einen Text generieren. Das Ganze kann innerhalb von ganz kurzer Zeit umgesetzt werden.  

Wenn man wie Sie einen Chatbot oder Voicebot als Lösungstemplate für andere Unternehmen anbietet, dann beantwortet dieser smarte Assistent Fragen, durchsucht Dokumente, liefert Fakten und informiert. Es geht also um Wissensextraktion, Wissensnavigation, Information. In der Unternehmenskommunikation hat man es oft mit der Erstellung von Texten zu tun und kann dafür natürlich auch textgenerierende Werkzeuge nutzen.  

Watsonx entwickelt ChatGPT weiter 

NetFed: Gibt es denn Beispiele im Kommunikationsumfeld, wo watsonx-Expertise oder die Watson APIs auch jetzt schon im Einsatz sind oder eingesetzt werden können?  

Dr. Hildesheim: ChatGPT kann im Internet jeder nutzen. Das Herzstück dieser Anwendung ist ein großes KI-Modell, ein sogenanntes Foundation-Modell, was in dem Fall GPT heißt. G steht für Generativ, P für Pretrained, also fertig, man kann sofort loslegen und T für den Typ des Transformers des neuronalen Netzes. Aktuell ist das GPT 4.0.  

Watsonx ermöglicht es Ihnen, große KI-Modelle, wie zum Beispiel GPT weiterzuentwickeln, einzubinden und anzuwenden. Watsonx ist also die Umgebung, die Ihnen hilft, diese großen KI-Modelle ins Unternehmen zu bringen und dort anzuwenden, Produkte zu bauen oder einzubinden. In der Praxis ist das natürlich sehr anspruchsvoll, es gibt ja nicht nur ein Modell wie GPT, es gibt ja hunderte von Modellen. Ein aktuelles Beispiel, wo watsonx zum Einsatz kommt: IBM arbeitet mit dem All England Lawn Tennis Club zusammen, um neue Features für das digitale Wimbledon-Fan-Erlebnis zur Verfügung zu stellen. Hier liefert eine KI-Funktion, die watsonx als generative KI-Technologie nutzt, Tennis-Kommentare für alle Video-Highlights von Wimbledon. So kann erstmals auch eine neue Statistik bereitgestellt werden, um die Chancen jeden einzelnen Spielers im Einzel auf den Einzug ins Finale zu ermitteln. Hier kommen natürlich Modelle zum Einsatz, die auf die spezifische Sprache des Tennissports trainiert wurden. 

Wie watsonx mit anderen KI-Modellen zusammenarbeitet 

NetFed: Watsonx bindet also selbst andere bereits existierende KI-Modelle ein? 

Dr. Hildesheim: Watsonx ist wie eine Werkstatt für generative KI und phonetische Modelle, große KI-Modelle, in denen ich diese zu meiner eigenen Lösung zusammenbauen kann. Es gibt ja Hunderte, bald Tausende von solchen Modellen. Ich will die vergleichen können, um das beste Modell für meine Zwecke zu nutzen. Das eine kann vielleicht besser Texte über Autos generieren, das andere besser über Sport. Das eine besser auf Japanisch, das andere besser auf Deutsch. Wenn ich jetzt also auf Deutsch über Sport schreiben will, nehme ich das Modell, was am besten darauf trainiert wurde. Watsonx erlaubt, das herauszufinden, zu testen und zu entdecken, es ist also die Umgebung, die Werkstatt dafür.  

Halluzinieren: Umgang von KI-Plattform watsonx mit Wahrheit

NetFed: Unternehmen haben besondere Anforderungen an den Einsatz von KI. Bei ChatGPT besteht das Problem des sogenannten Halluzinierens, also dem nach menschlichen Maßstäben unangemessenen Umgang mit Wahrheit. Wie ist watsonx hier aufgestellt? Kann man sich da auf die Wahrheit von Äußerungen verlassen?  

Dr. Hildesheim: Antworten müssen inhaltlich verlässlich sein, weshalb Business-taugliche KI-Modelle sorgfältig mit kuratierten und anwendungsspezifischen Daten trainiert werden müssen. Darüber hinaus müssen sie im Unternehmensumfeld aber auch nachvollziehbar, erklärbar und fair sein. Dies schafft man über eine intensive Überwachung, die auf die Einhaltung von Governance-Regularien und Fairness-Kriterien die Ergebnisse prüft, sowie eine Möglichkeit bietet, nachzuvollziehen, wie und aufgrund welcher Daten eine KI zu einer Antwort gekommen ist. Diese Features gibt es in watsonx. 

Datenschutz und Urheberrecht: So geht IBM mit watsonx damit um 

NetFed: Ein weiterer Punkt, der für viele Unternehmen vor dem Einsatz von KI unbedingt zu beachten ist, ist die Datenschutzstrategie. Wie geht IBM mit diesem Thema um? Können Unternehmen sich darauf verlassen, dass sie beim Einsatz von watsonx in keine Datenschutzfalle tappen?  

Dr. Hildesheim: Das ist eine wichtige Frage. watsonx besteht ja aus drei Unter-Komponenten.

1.) watsonx.ai: Mit der AI-Komponente liefern wir sogenannte Foundation-Modelle, die für Unternehmenszwecke von uns vortrainiert sind. Dabei setzen wir nicht nur auf IBM Modelle, sondern integrieren auch Open Source Modelle. Diese werden dann um die spezifischen Anwendungsfälle des Kunden ergänzt. Das geschieht mit  

2.) watsonx.data: Das ermöglicht Unternehmen die Skalierung von KI-Workloads unter Verwendung aller ihrer Daten mit einem Data Lakehouse, das für KI-Workloads optimiert ist. In fast jedem Land wird aktuell über Regulierungen von KI gesprochen. Das bringt uns zu  

3.) watsonx.governance: Das stellt ein Toolkit bereit für verantwortungsbewusste, transparente und erklärbare Nutzung von KI-Modellen im Unternehmenskontext.  

Und da kommt natürlich der Datenschutz ins Spiel. Es gibt ja verschiedene Klassen von Daten. Persönliche Daten oder Gesundheitsdaten sind extrem schützenswert. Sie unterliegen bestimmten Gesetzen, zum Beispiel der Europäischen Datenschutz-Grundverordnung. Und diese Gesetze stellen bestimmte Anforderungen und da kann ich mit watsonx.governance dafür sorgen, dass sie je nach Anwendungsfall und Daten auch erfüllt werden.  

NetFed: Und wie sieht das entsprechend beim Urheberrecht aus? Haben Sie dafür auch etwas vorgesehen?  

Dr. Hildesheim: Sie sprechen an, dass ich zum Beispiel bei ChatGPT nicht genau weiß, welche Daten da eigentlich reingesteckt wurden. Für bestimmte staatliche Organisationen oder Banken ist es völlig inakzeptabel, Modelle zu nutzen, bei denen sie nicht wissen, was drinsteckt.  

Das heißt, die Zusammenstellung eines eigenen Datensatzes ist für große Unternehmen und staatliche Organisationen ganz entscheidend.  Wenn ich selbst entscheide, welche Daten in das Modell eingehen und meinen eigenen Datensatz kuratiert habe, dann habe ich es auch hundertprozentig unter Kontrolle. Dann kann ich auch sicherstellen, dass ich das IP daran habe. IBM bietet zum Beispiel eigene kuratierte, hochprofessionelle Datensätze an, unterstützt aber auch dabei, solche zusammenzustellen. Wenn Sie Ihren Ansatz genau bestimmt haben und das Kuratieren sichergestellt ist, dann können Sie das mit watsonx.data verarbeiten. Die Verarbeitung ist also immer der zweite Schritt nach der Zusammenstellung der Daten. Und die kann der Nutzer selbst sehr stark beeinflussen.  

Wie gefährlich kann uns künstliche Intelligenz werden? 

NetFed: In den letzten Monaten treten immer mehr Mahner auf die öffentliche Bühne. Darunter zum Beispiel auch ausgewiesene Experten wie der Ex Google-Mann Geoffrey Hinton. Sie warnen vor der Gefahr, die von KI ausgeht. Es geht die Befürchtung um, KI werde zu mächtig und für den Menschen unkontrollierbar. Wie sehen Sie das? Muss und kann etwas getan werden, um Menschen nachhaltig vor KI zu schützen? Wenn ja, welche Maßnahmen wären das konkret?  

Dr. Hildesheim: Der Chef von OpenAI, Sam Altman, war ja in Deutschland und in Europa und hat sich auch für Regulierung ausgesprochen, dass man Rahmenbedingungen schafft, unter denen die generative KI ablaufen soll. Es ist ja ganz erstaunlich, dass er das fordert, denn er entwickelt das ja derzeit am stärksten für Consumer. Das hat eben mit all den Effekten zu tun, die ich hier angesprochen habe: wie geht man mit Fehlern um, mit der Kuratierung und der Kontrolle eigener Daten und wo die gespeichert sind?  

Wir wollen natürlich in Deutschland und in Europa, dass unsere Kultur, unsere Sprache, unsere Bilder von uns selbst verwaltet und kontrolliert werden und nicht auf einem ausländischen Server liegen und unsere Kultur dann eben von außen übersetzt und verwaltet wird. Insofern ist die Frage der sogenannten europäischen digitalen Souveränität eine entscheidende und damit auch Transparenz und Compliance mit unseren Gesetzen.  

Europa ist der erste Kontinent mit einem KI-Gesetz. Der europäische AI-Act verfolgt einen risikobasierten Ansatz. Dabei sollen inakzeptable Risiken, wie zum Beispiel die automatische Überwachung der Bevölkerung mit Kameras verboten werden. Die nächste Stufe sind die Hochrisikoanwendungen. Also KI-Anwendungen in Gerichtsurteilen, in Asylverfahren, in der Gesundheit usw. Die sollen überprüft und auch von Dritten getestet werden und dann ein EU-Zertifikat bekommen. Damit will man Sicherheit und Compliance mit unseren europäischen Grundwerten erreichen. Die Stufen darunter beinhalten kleine Risiken oder gar keine Risiken. Und da will man Innovation fördern. Das sind die wesentlichen Anforderungen hierzulande. Ich denke, das ist gut. Ähnlich wie bei Lebensmitteln, da hat die EU ja auch einheitliche Regelungen. Ein Nuss-Allergiker freut sich darüber, dass Verpackungen europaweit darauf hinweisen, wenn es ein Risiko für ihn gibt. So wird das über kurz oder lang auch für die KI kommen.  

Topexperten warnen jetzt zusätzlich, dass man natürlich im Moment auch generierte Inhalte, z.B. Bilder, schlecht von der Wirklichkeit unterscheiden kann. Deswegen wird ja auch diskutiert, Wasserzeichen einzuführen. Genau wie bei von Maschinen generierten Texten, da ist ja der kriminellen Energie keine Grenze gesetzt, das ist auch ein großes Thema. Und nicht zuletzt sind eben die tiefen neuronalen Netze auch Forschungsgegenstand. Zum Teil entdecken die Netze auch neue Dinge, die der Mensch so noch nicht verstanden hat. Und diese neuen Entdeckungen zu extrahieren und die zu verstehen, zu kompaktieren, das ist auch ein riesiges Potenzial.  

Oder in der Forschung - man denke nur an die DNA, das sind ja auch sequenzierte Daten. Da muss man aufpassen, dass das nicht in die falschen Hände gerät. Deshalb weisen weitsichtige Topforscher auch auf die Gefahren hin. Diese ethischen Aspekte muss man unbedingt mitberücksichtigen. 

KI in Deutschland - was in Zukunft wichtig wird 

NetFed: In der KI-Entwicklung ticken die Uhren gerade extrem schnell. Wo sehen Sie watsonx denn in ein bis zwei Jahren? Was wird sich bis dahin noch getan haben?  

Dr. Hildesheim: Was den derzeitigen Hype der generativen KI antreibt, sind diese großen KI-Modelle. Wenn Sie sich erinnern, 2018 hatte ein Modell von Google namens Bert nur einige Millionen Parameter. Das neue ChatGPT 4.0 von Open AI hat geschätzt viele 100 Milliarden Parameter und damit gehen mehr Fähigkeiten einher. 

Die Entwicklung zu größeren Modellen und mehr Fähigkeiten wird zunehmen. Gleichzeitig wird man lernen, auch Fähigkeiten aus den großen Modellen zu extrahieren, und die Modelle an sich wieder zu kompaktieren und damit auch Effekte zu erzielen. 

Watsonx als IBM-Lösung zum Entwickeln, Trainieren, Verwalten von diesen großen KI-Modellen, Foundation-Modellen, wird diese Entwicklungen unterstützen und damit auch immer wichtiger werden. Das ist wie bei einer Bibliothek. Am Anfang des Lebens hat man nur paar Kinderbücher in einem klitzekleinen Regal, und nach dem Studium hat man plötzlich eine riesige Bibliothek, die man nach Sprachen und Bereichen sortieren muss.  Man muss sich einen eigenen Index zulegen, eine eigene Entwicklungs- und Verwaltungsumgebung für die eigenen KI-Modelle. Dafür ist watsonx da.  

NetFed: Gibt es eine Botschaft, die Ihnen in diesem Zusammenhang am Herzen liegt?  

Dr. Hildesheim: Wir als Europäer und Deutsche müssen uns immer klarmachen, dass wir seit der Erfindung des Internets Trends verpasst haben. Wir sind viel zu spät auf den Zug aufgesprungen. Deshalb sitzen ja jetzt die großen Internetfirmen, Onlineshops und Suchmaschinen in den USA und China. Und deren Börsenbewertungen, deren Möglichkeiten sind zusammengenommen um ein Vielfaches höher als bei deutschen Unternehmen. Das vorausgeschickt, glaube ich, ist es sehr wichtig, dass wir diesen Trend nicht verpassen. Die Erfindung der großen KI-Modelle, der Foundation-Modelle, ist mindestens so wichtig wie die Erfindung des Internets. Und deswegen sollte sich jeder Entscheider im Land klarmachen, dass es in unserer Verantwortung liegt, diese neue Technik jetzt auch zu nutzen und die Zukunft zu gestalten. Wir verpassen sonst nämlich eines der nächsten ganz großen Themen und viel Potential an Wohlstand.  

Ich kann dazu nur jedem Mut machen. Eine der Möglichkeiten ist dabei, mit vorkonfigurierten KI-Services wie den Watson-Services zu arbeiten oder einer Plattform wie watsonx.  

NetFed: Herr Dr. Hildesheim, wir danken Ihnen herzlich für das Gespräch. 

Das Interview führte Sarah Nellen