KI VERSELBSTÄNDIGT SICH

Es klingt genau wie das Horrorszenario, vor dem Kritiker und Entwickler der künstlichen Intelligenz immer wieder warnen. Eine autonom agierende KI-Anwendung ist bei einem Test außer Kontrolle geraten. Sie ist wie ein Hacker in das System einer anderen KI-Firma eingedrungen. Nach Angaben des Entwicklers OpenAI nutzte sie dazu Softwarelücken und gestohlene Anmeldedaten. Eine KI, die selbstständig ein Unternehmen hackt, es klingt wie aus einem Science-Fiction-Film, was OpenAI in einem Blogpost bekannt gibt. Von einem beispiellosen Cybervorfall spricht das Unternehmen. Doch was ist passiert? OpenAI testet ein KI-Modell in einem eigentlich gesicherten Bereich und stellt ihm eine Aufgabe, erlaubt ihm auch Sicherheitslücken zu nutzen. Eine solche findet die KI, verschafft sich aber dann ungeplant Zugang zum Internet und bricht aus. Bei der KI-Firma Hugging Face vermutet die ausgebrochene KI offenbar selbstständig Lösungsansätze für ihre Aufgabe, findet auch hier eine Sicherheitslücke und dringt in das System ein. So etwas könnte künftig häufiger passieren. KI wird sich verselbstständigen und wenn man ihr eine Aufgabe gibt, wird sie nach Lösungsmöglichkeiten suchen und vielleicht das eine oder andere Mal auch kreativer sein und vor allem ethische Grenzen nicht beachten. KI-Systeme könnten künftig IT-Sicherheitslücken deutlich schneller entdecken und dann hacken. Wir gehen davon aus, dass die nächsten Monate, ein, zwei Jahre sehr, sehr holprig werden, dass wir mit einer deutlich höheren Anzahl von Angriffen rechnen müssen und dass wir kaum noch eine andere Chance haben werden, uns zu verteidigen, als selber auf eine entsprechende Automatisierung zu setzen und KI auch für uns zu nutzen. Auch US-Konkurrent Anthropic verfügt über ein Modell, das hacken kann. Beide Firmen warnen immer wieder vor den eigenen Produkten, beobachten Experten. Es ist wichtig darüber zu reden, wie können wir diesen Gefahren entgegenwirken. Auf der anderen Seite ist es aber auch ein Rennen, welches KI-Modell wird als bestes wahrgenommen, wo solche Vorfälle dann auch positiv fürs Marketing sein können. OpenAI hat für künftige Trainings bessere Schutzmaßnahmen angekündigt.