Home
» Wiki
»
OpenAI ia în considerare adăugarea de filigrane textului generat de ChatGPT
OpenAI ia în considerare adăugarea de filigrane textului generat de ChatGPT
Potrivit The Wall Street Journal, OpenAI are un sistem de filigranare a textului generat de ChatGPT și un instrument pentru detectarea filigranelor gata de aproximativ un an. Dar compania dezbate intern dacă să-l lanseze. Pe de o parte, pare a fi lucrul responsabil de făcut; Pe de altă parte, poate afecta profiturile companiei.
Filigranul OpenAI este descris ca ajustarea modului în care modelul prezice cele mai probabile cuvinte și expresii după cuvintele și frazele anterioare, creând un model detectabil.
Oferirea oricărei modalități de a detecta materialele scrise prin IA este un potențial avantaj pentru profesorii care încearcă să descurajeze elevii să folosească AI pentru a-și face temele. Jurnalul raportează că compania a descoperit că filigranul nu a afectat calitatea textului textului chatbot-ului. Într-un sondaj comandat de companie, „oamenii din întreaga lume au susținut ideea instrumentelor de detectare AI cu o marjă de 4:1”, scrie Jurnalul.
După ce Jurnalul și-a publicat povestea, OpenAI a confirmat că a făcut eforturi pentru adăugarea filigranului text într-o actualizare a postării de blog, văzută astăzi de TechCrunch. În el, compania spune că metoda sa este extrem de precisă („99,9 la sută eficientă”, conform documentelor văzute de Jurnal) și rezistentă la „falsificare, cum ar fi parafrazarea”. Compania a mai spus că este îngrijorată de stigmatizarea în legătură cu utilitatea instrumentelor AI pentru vorbitorii non-nativi.
Dar se pare că OpenAI este, de asemenea, îngrijorat de faptul că utilizarea unui filigran ar putea înstrăina utilizatorii ChatGPT. Potrivit sondajului, aproape 30% dintre ei au spus companiei că ar folosi software-ul mai puțin dacă ar fi implementată caracteristica filigranului.
Cu toate acestea, unii angajați consideră că funcția de filigran ar fi eficientă. Cu toate acestea, ca răspuns la frustrarea utilizatorilor, Jurnalul a spus că unele dintre metodele de testare propuse „pot fi mai puțin controversate în rândul utilizatorilor, dar nu sunt dovedite”. În actualizarea postării de astăzi pe blog, compania a spus că este „în primele etape” de explorare a înglobării metadatelor și că este încă „prea devreme” pentru a ști cât de bine va funcționa noua caracteristică, dar, deoarece este semnată criptografic, nu ar trebui să existe fals pozitive.