Microsoft anunță un nou instrument pentru a detecta și corecta conținutul halucinant în ieșirea AI

Azure AI Content Safety este serviciul AI Microsoft care ajută la detectarea conținutului dăunător generat de AI în aplicații, servicii și platforme. Acest utilitar oferă atât API-uri pentru text, cât și pentru imagini, permițând dezvoltatorilor să identifice conținutul nedorit.

API-ul Groundedness din Azure AI Content Safety este capabil să identifice dacă răspunsul de la un model de limbă mare se bazează pe un document sursă selectat de utilizator. Deoarece modelele actuale de limbaj mari pot produce informații inexacte sau false (informații iluzorii), acest API ajută dezvoltatorii să identifice un astfel de conținut în datele de ieșire ale AI.

Microsoft anunță un nou instrument pentru a detecta și corecta conținutul halucinant în ieșirea AI

Astăzi, Microsoft a anunțat o previzualizare a remedierii. Ca rezultat, dezvoltatorii pot acum detecta și corecta conținutul „iluzoriu” din datele de ieșire AI în timp real, asigurându-se ca utilizatorii finali să primească întotdeauna conținut generat de AI exact exact. Această caracteristică funcționează după cum urmează:

  • Dezvoltatorul de aplicații permite capabilități de editare.
  • Când sunt detectate date nefondate, o nouă solicitare este trimisă modelului AI pentru a corecta eroarea.
  • Algoritmul LLM va evalua scorul general pe baza documentelor autorizate.
  • Propozițiile care nu sunt relevante pentru documentul de bază, autentificat, pot fi filtrate în întregime.
  • Dacă conținutul este derivat dintr-un document de bază, modelul de bază va rescrie propoziția nefundamentată pentru a se potrivi cu documentul.

Pe lângă funcția de editare, Microsoft a anunțat și o previzualizare publică a Hybrid Azure AI Content Safety (AACS). Această caracteristică permite dezvoltatorilor să implementeze mecanisme de securitate a conținutului în cloud și pe dispozitiv. SDK-ul încorporat al AACS permite verificări de securitate a conținutului în timp real direct pe dispozitiv, chiar și fără o conexiune la internet.

În cele din urmă, Microsoft a anunțat o previzualizare a Protected Materials Detection for Code care poate fi utilizată cu aplicații AI care generează cod pentru a detecta dacă LLM generează vreun cod protejat. Această funcție era disponibilă anterior numai prin serviciul Azure OpenAI. Microsoft pune acum la dispoziția clienților detectarea materialelor protejate pentru cod pentru a le utiliza împreună cu alte modele AI care generează cod.

Lasă un comentariu

Afaceri secundare care chiar dau roade în 2026: 7 opțiuni realiste și compromisurile de știut

Afaceri secundare care chiar dau roade în 2026: 7 opțiuni realiste și compromisurile de știut

Compară activități secundare realiste pentru 2026 în funcție de costul de pornire, comisioane, flexibilitate și controlul veniturilor, cu îndrumări actuale privind impozitele și escrocheriile din surse oficiale.

Ergonomia muncii la distanță în 2026: Modernizați-vă biroul de acasă fără a cumpăra prea mult

Ergonomia muncii la distanță în 2026: Modernizați-vă biroul de acasă fără a cumpăra prea mult

Îmbunătățiți-vă ergonomia biroului de acasă cu îndrumările OSHA și NIOSH actuale privind potrivirea scaunului, înălțimea monitorului, configurarea laptopului, iluminarea și mișcarea.

De ce este importantă inteligența emoțională în leadership - și cum să o construim

De ce este importantă inteligența emoțională în leadership - și cum să o construim

Află de ce contează inteligența emoțională în leadership, unde ajută cel mai mult, cum să o consolidezi și cum să-ți dai seama dacă abordarea ta funcționează.

Cum să faci tranziția către o carieră în tehnologie fără diplomă: O foaie de parcurs axată pe rezultate pentru 2026

Cum să faci tranziția către o carieră în tehnologie fără diplomă: O foaie de parcurs axată pe rezultate pentru 2026

O foaie de parcurs practică pentru a intra în domeniul tehnologiei fără diplomă: alege un rol accesibil, dezvoltă abilități pregătite pentru angajare, demonstrează-le prin proiecte și folosește feedback-ul de la angajare pentru a te îmbunătăți.

Building a Personal Brand on LinkedIn in 2026: What Still Works, What Changed, and What to Ignore

Building a Personal Brand on LinkedIn in 2026: What Still Works, What Changed, and What to Ignore

Build a credible LinkedIn personal brand in 2026 with current profile, content, newsletter, analytics, verification, and visibility guidance from LinkedIn.

Demisii discrete vs. concedieri discrete în 2026: Ce se schimbă cu adevărat la locul de muncă

Demisii discrete vs. concedieri discrete în 2026: Ce se schimbă cu adevărat la locul de muncă

Demisiile discrete și concedierile discrete sunt etichete atrăgătoare, nu diagnostice. Aflați ce se verifică, ce depinde de context și ce pot face angajații și managerii în continuare.

Ascensiunea executivului fracțional: Când conducerea cu jumătate de normă în funcții de conducere are sens

Ascensiunea executivului fracțional: Când conducerea cu jumătate de normă în funcții de conducere are sens

Directorii executivi fracționari oferă funcții de conducere fără angajare cu normă întreagă. Învață când funcționează modelul, ce să ceri și riscurile de gestionat.

Cum să negociezi o mărire de salariu în timpul evaluărilor performanței din trimestrul 4: Un ghid practic pentru deciziile din 2026

Cum să negociezi o mărire de salariu în timpul evaluărilor performanței din trimestrul 4: Un ghid practic pentru deciziile din 2026

Pregătiți o cerere de mărire salarială mai convingătoare pentru trimestrul 4, incluzând date salariale actuale, opțiuni de sincronizare, compromisuri salariale și scenarii pentru rezultate afirmative, parțiale sau negative.

6 High-Income Skills You Can Start Learning Before 2026 Ends

6 High-Income Skills You Can Start Learning Before 2026 Ends

Choose a high-income skill you can realistically start before 2026 ends, with current pay data, learning priorities, and a practical self-check.

Stăpânirea programului de lucru hibrid: un cadru practic care chiar rezistă

Stăpânirea programului de lucru hibrid: un cadru practic care chiar rezistă

Construiește un program de lucru hibrid în jurul sarcinilor, suprapunerii echipei și rezultatelor măsurabile. Vezi modele, semne de avertizare și când să-ți ajustezi planul.