Nationale Akteure, die mit Russland, Nordkorea, Iran und China in Verbindung gebracht werden, experimentieren mit künstlicher Intelligenz (KI) und großen Sprachmodellen (LLMs), um ihre laufenden Cyberangriffe zu ergänzen. Microsoft und OpenAI haben in einem gemeinsamen Bericht bekannt gegeben, dass sie die Bemühungen von fünf staatlich unterstützten Akteuren gestört haben, die ihre KI-Dienste genutzt haben, um bösartige Cyberaktivitäten durchzuführen, indem sie deren Vermögenswerte und Konten beendet haben. Obwohl bisher keine signifikanten oder neuen Angriffe unter Verwendung von LLMs festgestellt wurden, hat die gegnerische Erforschung von KI-Technologien verschiedene Phasen der Angriffskette durchlaufen, wie z.B. Aufklärung, Unterstützung bei der Codierung und Malware-Entwicklung. Die russische Nation-State-Gruppe Forest Blizzard (auch bekannt als APT28) hat die KI-Dienste genutzt, um Open-Source-Forschung zu Satellitenkommunikationsprotokollen und Radarbildgebungstechnologie durchzuführen. Die nordkoreanische Gruppe Emerald Sleet (auch bekannt als Kimusky) hat LLMs verwendet, um Experten, Denkfabriken und Organisationen zu identifizieren, die sich auf Verteidigungsfragen in der asiatisch-pazifischen Region konzentrieren, sowie bei grundlegenden Skripting-Aufgaben und bei der Erstellung von Inhalten, die für Phishing-Kampagnen verwendet werden könnten. Iranische und chinesische Bedrohungsakteure haben LLMs ebenfalls zur Erstellung von Code-Snippets für die App- und Webentwicklung, für Phishing-E-Mails und für die Erforschung von Möglichkeiten, wie Malware entdeckt werden kann, verwendet. Microsoft entwickelt Grundsätze, um die Risiken, die von der böswilligen Nutzung von KI-Tools und APIs durch staatlich unterstützte Bedrohungsakteure, Manipulatoren und Cyberkriminelle ausgehen, einzudämmen und um seine Modelle wirksam abzusichern. Dazu gehören die Identifizierung und Bekämpfung des böswilligen Einsatzes von KI-Diensten, die Benachrichtigung anderer KI-Dienstanbieter, die Zusammenarbeit mit anderen Interessengruppen und die Transparenz.