{"id":314876,"date":"2025-08-23T21:35:50","date_gmt":"2025-08-23T19:35:50","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=314876"},"modified":"2025-08-23T21:35:50","modified_gmt":"2025-08-23T19:35:50","slug":"bsi-ansi-empfehlungen-zur-sicheren-integration-von-llm","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2025\/08\/23\/bsi-ansi-empfehlungen-zur-sicheren-integration-von-llm\/","title":{"rendered":"BSI &#038; ANSI: Empfehlungen zur sicheren Integration von LLM"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" style=\"margin: 0px 10px 0px 0px; display: inline; float: left; border-width: 0px;\" title=\"Edge\" src=\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2025\/04\/image-4.png\" alt=\"Copilot\" width=\"95\" height=\"91\" align=\"left\" border=\"0\" \/><span class=\"css-1jxf684 r-bcqeeo r-1ttztb7 r-qvutc0 r-poiln3\">Das Bundesamt f\u00fcr Sicherheit in der Informationstechnik (<\/span><span class=\"r-18u37iz\">BSI) und die <\/span><span class=\"css-1jxf684 r-bcqeeo r-1ttztb7 r-qvutc0 r-poiln3\">franz\u00f6sische <\/span><span class=\"r-18u37iz\">Cybersecurity<\/span><span class=\"css-1jxf684 r-bcqeeo r-1ttztb7 r-qvutc0 r-poiln3\">-Beh\u00f6rde ANSSI haben die Empfehlungen zur sicheren Integration von Sprachmodellen (LLM) aktualisiert. Es sollte ausdr\u00fccklich kein vollst\u00e4ndig autonomer <\/span><span class=\"r-18u37iz\">KI<\/span><span class=\"css-1jxf684 r-bcqeeo r-1ttztb7 r-qvutc0 r-poiln3\">-Betrieb ohne menschliche Kontrolle stattfinden.<\/span><\/p>\n<p><!--more--><\/p>\n<p>Ich bin \u00fcber nachfolgenden Post von Prof. Dennis Kipker auf diese Information gesto\u00dfen.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/i.postimg.cc\/QdDDNr20\/image.png\" alt=\"Design Principles for LLM-based Systems with Zero Trust\" width=\"600\" height=\"742\" \/><\/p>\n<p>In der deutsch-franz\u00f6sischen Gemeinschaftspublikation mit dem Titel <a href=\"https:\/\/www.bsi.bund.de\/SharedDocs\/Downloads\/EN\/BSI\/Publications\/ANSSI-BSI-joint-releases\/LLM-based_Systems_Zero_Trust.pdf\" target=\"_blank\" rel=\"noopener\">Design Principles for LLM-based Systems with Zero Trust<\/a> werden zentrale Gestaltungsprinzipien f\u00fcr den sicheren Einsatz von Large Language Model (LLM)-Systemen vorgestellt. Das Papier, das gemeinsam von der franz\u00f6sischen Agence nationale de la s\u00e9curit\u00e9 des syst\u00e8mes d'information (ANSSI) und dem deutschen Bundesamt f\u00fcr Sicherheit in der Informationstechnik (BSI) verfasst wurde, identifiziert typische Risiken im Zusammenhang mit der Nutzung von LLM-Systemen und schl\u00e4gt geeignete Gegenma\u00dfnahmen vor.<\/p>\n<p>Es empfiehlt unter anderem, die Zugriffsrechte f\u00fcr diese Systeme nach Bedarf zu beschr\u00e4nken, ihre Entscheidungsprozesse transparent zu gestalten und sicherzustellen, dass kritische Entscheidungen unter menschlicher Aufsicht getroffen werden. Ziel der Ver\u00f6ffentlichung ist es, IT-Fachleute f\u00fcr die Herausforderungen beim Einsatz von LLM-Systemen zu sensibilisieren. Vielleicht ist es f\u00fcr jemand aus der Leserschaft hilfreich.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Das Bundesamt f\u00fcr Sicherheit in der Informationstechnik (BSI) und die franz\u00f6sische Cybersecurity-Beh\u00f6rde ANSSI haben die Empfehlungen zur sicheren Integration von Sprachmodellen (LLM) aktualisiert. Es sollte ausdr\u00fccklich kein vollst\u00e4ndig autonomer KI-Betrieb ohne menschliche Kontrolle stattfinden.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8625,426],"tags":[8382,4328],"class_list":["post-314876","post","type-post","status-publish","format-standard","hentry","category-ai","category-sicherheit","tag-ai","tag-sicherheit"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/314876","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=314876"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/314876\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=314876"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=314876"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=314876"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}