Nvidia hat eine Software entwickelt, die ein großes Problem der derzeit verfügbaren KI-Chatbots lösen soll. Nach Angaben des Unternehmens kann die NeMo Guardrails genannte Anwendung sicherstellen, dass intelligente Anwendungen wie KI-Chatbots, die von großen Sprachmodellen (LLMs) angetrieben werden, „genau, angemessen, themenbezogen und sicher“ sind.
Die Open-Source-Software kann von KI-Entwicklern genutzt werden, um thematische, Sicherheits- und Schutzgrenzen für KI-Modell einzurichten. Die thematischen Grenzen sollen KI-Anwendung daran hindern, Themen in Bereichen zu erforschen, die für den beabsichtigten Einsatz nicht notwendig oder wünschenswert sind. Nvidia nennt das Beispiel eines Kundendienstassistenten, der keine Fragen zum Wetter beantwortet. Wären derartige Beschränkungen für Bing Chat verfügbar gewesen, hätte der Microsoft-Chatbot wahrscheinlich nicht direkt nach seiner Veröffentlichung Firmengeheimnisse verraten.
Die Sicherheitsgrenzen sollen indes helfen Fehlinformationen und „Halluzinationen“ zu reduzieren. Wenn sie eingesetzt werden, stellen sie sicher, dass KI-Anwendungen mit korrekten und angemessenen Informationen reagieren. Durch den Einsatz der Software könnten zum Beispiel Verbote für unangemessene Sprache und glaubwürdige Quellenangaben verstärkt werden. Außerdem soll die Software verhindern, dass Apps externe Anwendungen erreichen, die als unsicher gelten.
Nvidia zufolge sollen praktisch alle Softwareentwickler in der Lage sein, NeMo Guardrails zu verwenden. Die Software funktioniere mit einer breiten Palette von LLM-fähigen Anwendungen sowie mit allen Tools arbeiten, die Entwickler von Unternehmensanwendungen einsetzen.
NeMo Guardrails wird Nvidia in sein Nvidia NeMo Framework integrieren, das bereits größtenteils als Open-Source-Code auf GitHub verfügbar ist. Zudem soll die Software als Teil der Nvidia AI Enterprise Plattform und als Service durch Nvidia AI Foundations angeboten werden.
Christoph Schuhwerk, CISO EMEA bei Zscaler, über den Einfluss von KI auf den permanenten Wettlauf…
Von ihr geht ein hohes Risiko aus. Laut Google ist ein Exploit für die Chrome…
Kaspersky stellt eine hohe Nachfrage nach datenstehlender Malware in kriminellen Kreisen fest. Die Infostealer sind…
Neue Funktion in GoTo Resolve schützt Nutzer von Mobilgeräten vor Finanzbetrug, indem sie Support-Sitzungen überwacht…
Es ist das erste Plus seit dem dritten Quartal 2021. Die Marktforscher von Counterpoint rechnen…
Rittal hat eine neue Kühllösung vorgestellt, die über 1 Megawatt Kühlleistung erbringt und den Weg…