TITELTHEMA | DIGITALISIERUNG
IT-SICHERHEIT UND RECHT
IT-Sicherheit:
Der EU AI Act
Das empfiehlt das Bundesamt für Sicherheit in der Informationstechnik Die öffentliche Angabe von Kontakt - daten des Unternehmens sollte sich auf allgemeine Kontaktadressen beschränken. Unternehmen sollten ihre Mitarbeiter für Risiken der Digitalisierung sensibilisieren und im sicheren Umgang mit Informa- tionstechnik regelmäßig schulen. Bei ungewöhnlichen Zahlungsanweisun - gen sollten vor Veranlassung der Zahlung Kontrollmechanismen greifen:
Was ist der EU AI Act? • Der EU AI Act soll helfen, KI-Systeme sicher, vertrauens - würdig und grundrechtskon- form zu gestalten. • Die neuen Vorgaben traten bereits zum 1. August 2024 in Kraft. Anwendung findet der EU AI Act mit dem Auslaufen einer Übergangsfrist jedoch erst seit dem 1. August dieses Jahres. • Wichtig zu wissen: Betroffen sind nicht nur Anbieter von KI-Systemen, sondern auch Betreiber, die KI in ihrem Be - trieb einsetzen. Was ist ein KI-System? • Ein KI-System ist eine voll - ständige Anwendung, die ein Modell („trainierter Algorith - mus“) nutzt, um bestimmte Aufgaben zu erfüllen. Ein KI-System umfasst etwa die technische Infrastruktur, die Nutzeroberfläche und die Fähigkeit, physische oder virtuelle Umgebungen zu be- einflussen. • Beispiele sind Bewerbungs - software, Chatbots, Medizin- Anwendungen, Navigations - systeme oder Spamfilter. Was ist verboten? • Mit einem unannehm- baren Risiko verbunden und somit verboten sind laut EU AI Act Social-Scoring-Anwen - dungen. Beim Social Scoring werden Daten von Menschen gesammelt und mit Punkten bewertet, etwa um aus Pos- tings in sozialen Medien die Zuverlässigkeit von Kunden zu schätzen. • Unannehmbar riskant und somit verboten ist auch die biometrische Echtzeit-Identi- fizierung im öffentlichen Raum („Gesichtserkennung“).
Welche Regelungen trifft der EU AI Act in Bezug auf die KI-Kompetenz der eigenen Mitarbeiter? • Arbeitgeber müssen ihre Beschäftigten mit KI-Kompe - tenz ausstatten und schulen, etwa hinsichtlich technischem Know-how, regulatorischem Wissen und anwendungsspe- zifischen Kenntnissen. Sind Datenschutzfragen Teil des EU AI Acts? • Nein. Datenschutzfragen sind kein Teil des AI Acts: Nur weil ein KI-System die CE-Kennzeichnung erfüllt, bedeutet das nicht, dass zum Beispiel die zugrunde liegen - den Nutzungsdaten rechtmä- gekennzeichnet werden? • KI-erstellte Inhalte müs- sen gekennzeichnet werden, sofern sie nicht als solche klar erkennbar sind oder nicht einer echten inhaltlichen, menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden. Wie werden Pflichtverletzungen sanktioniert? • Die Strafen für Verstöße gegen die Vorschriften werden entsprechend der Größe und dem Geschäftszweck des Unternehmens festgelegt: Die Anwendung verbotener KI- Systeme wird mit bis zu 35 Millionen Euro oder sieben Prozent des Umsatzes geahn- det, Verstöße gegen Ver - ßig erhoben wurden. Müssen KI-Inhalte pflichtungen des AI-Acts mit bis zu 15 Millionen Euro oder drei Prozent des Umsatzes, die Angabe falscher Informationen mit bis zu 7,5 Millionen Euro oder 1,5 Prozent des Umsatzes. ihk.de/rhein-neckar/eu-ai-act
Verifizierung der Absenderadresse, Überprüfung der Plausibilität des Inhalts der E-Mail, Verifizierung der Zahlungsaufforderung durch Rückruf oder schriftliche Rückfra- ge beim vermeintlichen Auftraggeber,
1.
2.
Information der Geschäftsleitung oder des Vorgesetzten. www.bsi.bund.de
3.
IT-Sicherheit: Veranstaltungs-Tipps
Die „Transferstelle Cybersicherheit im Mittelstand“ hilft kleinen und mittleren Unter- nehmen kostenfrei bei der Prävention von Cyberangriffen sowie bei einer geeigneten Reaktion auf diese Bedrohungen. Die Trans - ferstelle bietet unter anderem die Workshop- reihe ISMS-Werkstatt (siehe Seite 13) an. Mit der kostenfreien Sprechstunde IT-Sicher- heit unterstützt die IHK Unternehmen dabei, den aktuellen Stand ihrer Cybersicherheit zu bewer - ten und geeignete Maßnahmen zur Prävention und Erhöhung der IT-Sicherheit zu identifizieren. Zentral ist dabei der CyberSicherheitsCheck. In den Workshops und Einzelveranstal- tungen unter dem Motto „Chefsache IT-Si - cherheit“ erhalten Unternehmen bei der IHK weitere wertvolle Tipps rund um IT-Sicherheit. Alle IHK-Veranstaltungen zum Thema IT-Sicherheit: ihk.de/rhein-neckar/veranstaltungen-digital
21
IHK Magazin Rhein-Neckar 07 | 2026
ihk.de/rhein-neckar
Made with FlippingBook Learn more on our blog