BERLIN (dpa-AFX) - Die Bedrohung durch Cyberkriminelle ist in Deutschland deutlich gestiegen und könnte durch den Missbrauch von KI-Sprachmodellen wie ChatGPT noch weiter anwachsen. Zu diesem Ergebnis kommt das Bundesamt für Sicherheit in der Informationstechnik (BSI) in seinem aktuellen Lagebericht, der den Zeitraum vom 1. Juni 2022 bis zum 30. Juni dieses Jahres abbildet. "Insgesamt zeigte sich im aktuellen Berichtszeitraum eine angespannte bis kritische Lage", bilanziert die Behörde.
Täglich seien durchschnittlich 68 neue Schwachstellen in Softwareprodukten registriert worden - rund 24 Prozent mehr als im Jahr zuvor, heißt es in dem Bericht, der am Donnerstag in Berlin vorgestellt wurde. So hätten Cybererpresser beispielsweise zwei Schwachstellen in Filesharing-Produkten ausgenutzt, um Daten zahlreicher Nutzer im In- und Ausland abzugreifen und anschließend mit deren Veröffentlichung zu drohen.
Der Einsatz von Künstlicher Intelligenz (KI) berge nicht nur Chancen, sondern auch Risiken, etwa wenn Daten, die zum Anlernen der KI verwendet werden, manipuliert würden, warnt das BSI - womöglich mit dem Ziel, Desinformationskampagnen auszulösen und so die öffentliche Meinung zu beeinflussen. Zu einer Vervielfältigung von Schwachstellen könne zudem die Verwendung von KI bei der Programmierung beitragen. Außerdem stellten große KI-Sprachmodelle "durch ihren Black-Box-Charakter" eine Schwachstelle an sich dar, mahnt das Bundesamt.
Bei Systemen, in denen die Ausgaben von KI-Sprachmodellen in Handlungen umgesetzt würden, sei es wichtig, dass diese Systeme nur unter menschlicher Kontrolle handeln könnten. Dazu sollten Abfragen eingebaut werden wie etwa "Wollen Sie diese persönlichen Daten wirklich an den Anbieter XY/in den Cloudspeicher übermitteln?" oder "Jetzt kostenpflichtig kaufen/buchen?".
Das BSI stellt seit einiger Zeit fest, dass kriminelle Hacker zunehmend den Weg des geringsten Widerstands wählen und vermehrt Opfer auswählen, die ihnen leicht angreifbar erscheinen. "Nicht mehr die Maximierung des potenziellen Lösegelds stand im Vordergrund, sondern das rationale Kosten-Nutzen-Kalkül", heißt es in dem Bericht. Zunehmend würden kleinere und mittlere Unternehmen, Landes- und Kommunalverwaltungen sowie Schulen und Hochschulen Opfer sogenannter Ransomware-Attacken. Von Ransomware spricht man, wenn Angreifer mangelhafte Datensicherung oder andere Fehler ausnutzen, um Systeme zu infiltrieren und Daten zu verschlüsseln. Für die Entschlüsselung verlangen die Erpresser dann Lösegeld.