Ant Group stellt Sicherheits-Guardrail SingProbe für große Sprachmodelle vor

Ant Group AI Safety Lab hat SingProbe veröffentlicht, ein internes Sicherheitsmodul, das während der Textgenerierung Risikosignale ausgibt. Laut Angaben des Unternehmens liegt der zusätzliche Rechenaufwand in der Dekodierphase unter 0,5 Prozent. Das System ist an 29 offene Sprachmodelle angepasst, darunter Modelle der Ling-3.0-Reihe, GLM-5.2/5.3, Qwen und DeepSeekV4. Zusätzlich veröffentlichte das Team den Benchmark SingStreamBench sowie die medizinische Variante SingProbe-Med.

Quelle: Leiphone Industrie