Nvidia hat eine Software entwickelt, die ein großes Problem der derzeit verfügbaren KI-Chatbots lösen soll. Nach Angaben des Unternehmens kann die NeMo Guardrails genannte Anwendung sicherstellen, dass intelligente Anwendungen wie KI-Chatbots, die von großen Sprachmodellen (LLMs) angetrieben werden, „genau, angemessen, themenbezogen und sicher“ sind.
Die Open-Source-Software kann von KI-Entwicklern genutzt werden, um thematische, Sicherheits- und Schutzgrenzen für KI-Modell einzurichten. Die thematischen Grenzen sollen KI-Anwendung daran hindern, Themen in Bereichen zu erforschen, die für den beabsichtigten Einsatz nicht notwendig oder wünschenswert sind. Nvidia nennt das Beispiel eines Kundendienstassistenten, der keine Fragen zum Wetter beantwortet. Wären derartige Beschränkungen für Bing Chat verfügbar gewesen, hätte der Microsoft-Chatbot wahrscheinlich nicht direkt nach seiner Veröffentlichung Firmengeheimnisse verraten.
Die Sicherheitsgrenzen sollen indes helfen Fehlinformationen und „Halluzinationen“ zu reduzieren. Wenn sie eingesetzt werden, stellen sie sicher, dass KI-Anwendungen mit korrekten und angemessenen Informationen reagieren. Durch den Einsatz der Software könnten zum Beispiel Verbote für unangemessene Sprache und glaubwürdige Quellenangaben verstärkt werden. Außerdem soll die Software verhindern, dass Apps externe Anwendungen erreichen, die als unsicher gelten.
Nvidia zufolge sollen praktisch alle Softwareentwickler in der Lage sein, NeMo Guardrails zu verwenden. Die Software funktioniere mit einer breiten Palette von LLM-fähigen Anwendungen sowie mit allen Tools arbeiten, die Entwickler von Unternehmensanwendungen einsetzen.
NeMo Guardrails wird Nvidia in sein Nvidia NeMo Framework integrieren, das bereits größtenteils als Open-Source-Code auf GitHub verfügbar ist. Zudem soll die Software als Teil der Nvidia AI Enterprise Plattform und als Service durch Nvidia AI Foundations angeboten werden.
Einziger Neueinsteiger ist das Alps-System in der Schweiz. Die weiteren Top-Ten-Systeme aus Europa stehen in…
Im vergangenen Jahr steigt ihre Zahl um 32 Prozent. Die Zahl der betroffenen PC-Nutzer sinkt…
Die App satellite wird künftig Telefongespräche in Echtzeit datenschutzkonform mit Hilfe von KI zusammenfassen.
Als Erweiterung von Master-Data-Management ermöglicht es die Lösung, den Werdegang von Daten verstehen und sie…
Sie erlauben unter anderem das Einschleusen von Schadcode. In älteren iPhones und iPads mit OS-Version…
Neuer Speicher für KI von Huawei mit integrierter Ransomware-Erkennungs-Engine und deutlich geringerem Energiekonsum.