Microsoft anunță un nou instrument pentru a detecta și corecta conținutul halucinant în ieșirea AI

Azure AI Content Safety este serviciul AI Microsoft care ajută la detectarea conținutului dăunător generat de AI în aplicații, servicii și platforme. Acest utilitar oferă atât API-uri pentru text, cât și pentru imagini, permițând dezvoltatorilor să identifice conținutul nedorit.

API-ul Groundedness din Azure AI Content Safety este capabil să identifice dacă răspunsul de la un model de limbă mare se bazează pe un document sursă selectat de utilizator. Deoarece modelele actuale de limbaj mari pot produce informații inexacte sau false (informații iluzorii), acest API ajută dezvoltatorii să identifice un astfel de conținut în datele de ieșire ale AI.

Microsoft anunță un nou instrument pentru a detecta și corecta conținutul halucinant în ieșirea AI

Astăzi, Microsoft a anunțat o previzualizare a remedierii. Ca rezultat, dezvoltatorii pot acum detecta și corecta conținutul „iluzoriu” din datele de ieșire AI în timp real, asigurându-se ca utilizatorii finali să primească întotdeauna conținut generat de AI exact exact. Această caracteristică funcționează după cum urmează:

  • Dezvoltatorul de aplicații permite capabilități de editare.
  • Când sunt detectate date nefondate, o nouă solicitare este trimisă modelului AI pentru a corecta eroarea.
  • Algoritmul LLM va evalua scorul general pe baza documentelor autorizate.
  • Propozițiile care nu sunt relevante pentru documentul de bază, autentificat, pot fi filtrate în întregime.
  • Dacă conținutul este derivat dintr-un document de bază, modelul de bază va rescrie propoziția nefundamentată pentru a se potrivi cu documentul.

Pe lângă funcția de editare, Microsoft a anunțat și o previzualizare publică a Hybrid Azure AI Content Safety (AACS). Această caracteristică permite dezvoltatorilor să implementeze mecanisme de securitate a conținutului în cloud și pe dispozitiv. SDK-ul încorporat al AACS permite verificări de securitate a conținutului în timp real direct pe dispozitiv, chiar și fără o conexiune la internet.

În cele din urmă, Microsoft a anunțat o previzualizare a Protected Materials Detection for Code care poate fi utilizată cu aplicații AI care generează cod pentru a detecta dacă LLM generează vreun cod protejat. Această funcție era disponibilă anterior numai prin serviciul Azure OpenAI. Microsoft pune acum la dispoziția clienților detectarea materialelor protejate pentru cod pentru a le utiliza împreună cu alte modele AI care generează cod.

Sign up and earn $1000 a day ⋙

Leave a Comment

Microsoft: PC-urile care rulează Windows 11 21H2/22H2 vor fi forțate să se actualizeze la 23H2 luna viitoare

Microsoft: PC-urile care rulează Windows 11 21H2/22H2 vor fi forțate să se actualizeze la 23H2 luna viitoare

Versiunea 21H2 a Windows 11 este una dintre versiunile originale majore ale Windows 11, care a început să fie lansată la nivel global pe 4 octombrie 2021.

Microsoft „spamează” codurile QR Copilot pe ecranul de blocare Windows 11 pentru a atrage utilizatorii

Microsoft „spamează” codurile QR Copilot pe ecranul de blocare Windows 11 pentru a atrage utilizatorii

În 2023, Microsoft a pariat puternic pe inteligența artificială și pe parteneriatul său cu OpenAI pentru a face din Copilot o realitate.

Microsoft detaliază cerințele audio Bluetooth LE și suportul pentru Windows 11, 10

Microsoft detaliază cerințele audio Bluetooth LE și suportul pentru Windows 11, 10

Microsoft a introdus compatibilitatea audio Bluetooth LE (energie scăzută) cu Windows 11 22H2 KB5026446 (build 22621.1778), cunoscut și sub numele de Moment 3, în mai 2023.

Microsoft lansează o nouă aplicație Sticky Notes pentru Windows 11

Microsoft lansează o nouă aplicație Sticky Notes pentru Windows 11

După ce a păstrat lucrurile la fel ani de zile, actualizarea Sticky Note de la jumătatea anului 2024 a schimbat jocul.

Microsoft anunță lista de procesoare acceptate de Windows Server 2025, permițând mai multor mașini virtuale să partajeze un singur procesor

Microsoft anunță lista de procesoare acceptate de Windows Server 2025, permițând mai multor mașini virtuale să partajeze un singur procesor

Astăzi, Microsoft a anunțat oficial disponibilitatea generală a Windows Server 2025 împreună cu System Center 2025.

Cum ar arăta o interfață clasică Windows 11 în stilul anilor 90

Cum ar arăta o interfață clasică Windows 11 în stilul anilor 90

Există întotdeauna ceva incredibil de cool în interfața cu utilizatorul nostalgică a versiunilor de Windows din anii 90.

Microsoft: TPM 2.0 în Windows 11 este obligatoriu și nenegociabil

Microsoft: TPM 2.0 în Windows 11 este obligatoriu și nenegociabil

În urmă cu mai bine de trei ani, când Microsoft a anunțat Windows 11, sistemul de operare a stârnit imediat multe controverse.

Cota de piață Windows 11 ajunge rapid la Windows 10

Cota de piață Windows 11 ajunge rapid la Windows 10

Raportul din octombrie 2024 oferă o privire de ansamblu asupra cotei de piață a Windows 11 în comparație cu alte versiuni de Windows.

Smartphone-ul pliabil de la Microsoft nu va avea cute

Smartphone-ul pliabil de la Microsoft nu va avea cute

Se spune că Microsoft se apropie de lansarea primului său smartphone pliabil când i s-a acordat un brevet pentru un telefon pliabil cu capacitatea de a se plia la 360 de grade, dar fără a crea riduri pe ecran pe 1 octombrie.

Cum să setați Windows Photo Viewer ca Photo Viewer implicit pe Windows 11

Cum să setați Windows Photo Viewer ca Photo Viewer implicit pe Windows 11

Windows Photo Viewer a fost lansat pentru prima dată împreună cu Windows XP și a devenit rapid unul dintre cele mai frecvent utilizate instrumente pe Windows.

Windows 11 este pe cale să adauge o secțiune de sfaturi de configurare a sistemului

Windows 11 este pe cale să adauge o secțiune de sfaturi de configurare a sistemului

Cele mai recente previzualizări ale Windows 11 pe care Microsoft le-a lansat săptămâna aceasta includ o secțiune îmbunătățită Despre în aplicația Setări, unde utilizatorii pot obține mai multe informații despre hardware-ul din interiorul computerului lor.

Windows 11 permite acum utilizatorilor să scrie cu ușurință cu un controler Xbox

Windows 11 permite acum utilizatorilor să scrie cu ușurință cu un controler Xbox

Pentru a rezolva problemele obișnuite cu care se confruntă jucătorii de pe computer, Microsoft a făcut în sfârșit navigarea sistemului de operare Windows mai ușor cu un controler Xbox.

Actualizările Windows 11 creează în tăcere un folder misterios pe unitatea C

Actualizările Windows 11 creează în tăcere un folder misterios pe unitatea C

Actualizările de securitate din aprilie pentru Windows 11 au creat în tăcere un nou folder gol pe unitatea C.

Microsoft va continua să investească masiv în OpenAI, la o evaluare de peste 100 de miliarde de dolari

Microsoft va continua să investească masiv în OpenAI, la o evaluare de peste 100 de miliarde de dolari

Microsoft a investit miliarde de dolari în OpenAI din 2019, deși gigantul de software din Redmond nu este în niciun caz investitorul principal în startup-ul inovator AI.

ExpressVPN acceptă acum computerele Windows ARM

ExpressVPN acceptă acum computerele Windows ARM

Unul dintre cele mai populare servicii VPN din lume - ExpressVPN - a lansat oficial o versiune de aplicație pentru computerele Windows care rulează pe procesoare bazate pe ARM.

Diferența dintre televizorul obișnuit și Smart TV

Diferența dintre televizorul obișnuit și Smart TV

Televizoarele inteligente au luat cu adevărat lumea cu asalt. Cu atât de multe funcții grozave și conectivitate la internet, tehnologia a schimbat modul în care ne uităm la televizor.

De ce congelatorul nu are lumină, dar frigiderul are?

De ce congelatorul nu are lumină, dar frigiderul are?

Frigiderele sunt aparate cunoscute în gospodării. Frigiderele au de obicei 2 compartimente, compartimentul cool este spatios si are o lumina care se aprinde automat de fiecare data cand utilizatorul il deschide, in timp ce compartimentul congelator este ingust si nu are lumina.

2 moduri de a remedia congestionarea rețelei care încetinește conexiunea Wi-Fi

2 moduri de a remedia congestionarea rețelei care încetinește conexiunea Wi-Fi

Rețelele Wi-Fi sunt afectate de mulți factori, dincolo de routere, lățime de bandă și interferențe, dar există câteva modalități inteligente de a vă îmbunătăți rețeaua.

Cum să downgrade de la iOS 17 la iOS 16 fără a pierde date folosind Tenorshare Reiboot

Cum să downgrade de la iOS 17 la iOS 16 fără a pierde date folosind Tenorshare Reiboot

Dacă doriți să reveniți la iOS 16 stabil pe telefonul dvs., iată ghidul de bază pentru dezinstalarea iOS 17 și downgrade de la iOS 17 la 16.

Ce se întâmplă cu organismul când mănânci iaurt în fiecare zi?

Ce se întâmplă cu organismul când mănânci iaurt în fiecare zi?

Iaurtul este un aliment minunat. Este bine să mănânci iaurt în fiecare zi? Când mănânci iaurt în fiecare zi, cum se va schimba corpul tău? Să aflăm împreună!

Ce tip de orez este cel mai bun pentru sănătate?

Ce tip de orez este cel mai bun pentru sănătate?

Acest articol discută cele mai hrănitoare tipuri de orez și cum să maximizați beneficiile pentru sănătate ale orezului pe care îl alegeți.

Cum să te trezești la timp dimineața

Cum să te trezești la timp dimineața

Stabilirea unui program de somn și a rutinei de culcare, schimbarea ceasului cu alarmă și ajustarea dietei sunt câteva dintre măsurile care vă pot ajuta să dormiți mai bine și să vă treziți la timp dimineața.

Sfaturi pentru a juca Rent Please! Proprietar Sim pentru începători

Sfaturi pentru a juca Rent Please! Proprietar Sim pentru începători

Inchiriez va rog! Landlord Sim este un joc mobil de simulare pe iOS și Android. Veți juca ca proprietarul unui complex de apartamente și veți începe să închiriați un apartament cu scopul de a îmbunătăți interiorul apartamentelor și de a le pregăti pentru chiriași.

Cele mai recente coduri de apărare a turnului de baie și cum să introduceți codurile

Cele mai recente coduri de apărare a turnului de baie și cum să introduceți codurile

Obțineți codul de joc Roblox Bathroom Tower Defense și răscumpărați pentru recompense interesante. Ele vă vor ajuta să faceți upgrade sau să deblocați turnuri cu daune mai mari.

Structura, simbolurile și principiile de funcționare ale transformatoarelor

Structura, simbolurile și principiile de funcționare ale transformatoarelor

Să învățăm despre structura, simbolurile și principiile de funcționare ale transformatoarelor în cel mai precis mod.

4 moduri prin care AI face televizoarele inteligente mai bune

4 moduri prin care AI face televizoarele inteligente mai bune

De la o calitate mai bună a imaginii și a sunetului la controlul vocal și multe altele, aceste funcții bazate pe inteligență artificială fac televizoarele inteligente mult mai bune!

De ce ChatGPT este mai bun decât DeepSeek

De ce ChatGPT este mai bun decât DeepSeek

Inițial, oamenii aveau mari speranțe în DeepSeek. Fiind un chatbot AI comercializat ca un concurent puternic pentru ChatGPT, acesta promite capacități și experiențe inteligente de chat.

Faceți cunoștință cu Fireflies.ai: Secretarul AI gratuit care vă scutește de ore de muncă

Faceți cunoștință cu Fireflies.ai: Secretarul AI gratuit care vă scutește de ore de muncă

Este ușor să ratezi detalii importante atunci când notezi alte elemente esențiale, iar încercarea de a lua notițe în timpul conversației poate fi distragerea atenției. Fireflies.ai este soluția.

Cum să crești Axolotl Minecraft, îmblânziți Minecraft Salamander

Cum să crești Axolotl Minecraft, îmblânziți Minecraft Salamander

Axolot Minecraft va fi un asistent excelent pentru jucători atunci când operează sub apă, dacă știu să le folosească.

A Quiet Place: The Road Ahead Configurația jocului PC

A Quiet Place: The Road Ahead Configurația jocului PC

Un loc liniștit: configurația Road Ahead este foarte apreciată, așa că va trebui să luați în considerare configurația înainte de a decide să descărcați.