Claude, un chatbot creat de foști angajați OpenAI

 Darkcrizt |18.01.2023 22:21| Știri

Claude, un chatbot care caută să concureze cu OpenAI

Anthropic, un startup AI creat în 2021 de foști angajați OpenAI, a început să testeze un nou asistent AI asemănător ChatGPT, care pare să se îmbunătățească față de originalul în câteva domenii cheie.

Cu numele de cod „Claude”, aceasta a fost creat folosind o tehnică dezvoltată de Anthropic , numită „Constitutional AI”, iar tehnica își propune să ofere o abordare „bazată pe principii” pentru a alinia sistemele AI cu intențiile umane, permițând AI precum ChatGPT să răspundă la interogări folosind un set de principii simple ca ghid.

Anthropic, se menționează, se comercializează ca o companie de cercetare și securitate AI care se străduiește să creeze sisteme AI de încredere, interpretabile și orientabile.

Startup-ul a primit finanțare de peste 700 de milioane de dolari până în prezent și a introdus recent un chatbot AI numit Claude. Acesta din urmă este comparabil cu ChatGPT de la OpenAI, dar conform lui Anthropic, Claude este superior originalului în mai multe moduri importante.

Întregul sistem este în beta închisă și puțini oameni au avut încă acces la chatbot, dar Anthropic a ridicat capacul asupra unor aspecte ale designului său într-un document pe care l-a împărtășit comunității.

Tocmai, pentru a-l proiecta pe Claude, echipa Anthropic a început prin a elabora o listă de aproximativ zece principii care, împreună, formează un fel de „constituție” (de unde și termenul „AI constituțional”).

Aceste principii nu au fost făcute publice, dar Anthropic spune că se bazează pe conceptele de binefacere (maximizarea impactului pozitiv), nonmalefință (evitați să dați sfaturi dăunătoare) și autonomie (respectați libertatea de alegere).

După implementarea acestor principii de bază, Anthropic a cerut unui sistem AI, care nu este Claude, să folosească aceste principii pentru a se îmbunătăți, scriind răspunsuri la diverse întrebări (de exemplu, „Proiectează o imagine în stilul XX sau realizează o poezie în stilul XX). din XX"). stil XX") și revizuirea răspunsurilor în conformitate cu constituția. AI a explorat posibile răspunsuri la mii de solicitări.

Claude oferă puțină profunzime asupra detaliilor tehnice ale implementării sale, dar lucrarea de cercetare a lui Anthropic privind IA constituțională descrie AnthropicLM v4-s3, un model preantrenat cu 52 de miliarde de parametri. Acest model autoregresiv a fost antrenat nesupravegheat pe un corp mare de text, la fel ca GPT-3 de la OpenAI. Anthropic ne spune că Claude este un model nou mai mare, cu alegeri arhitecturale similare cercetării publicate.

Sistemul le-a selectat pe cele mai conforme cu constituția, iar Anthropic le-a distilat într-un singur model. Potrivit startup-ului, acest model a fost folosit pentru a-l antrena pe Claude.

Ce este Claude?

Claude este practic un instrument statistic pentru prezicerea cuvintelor , cum ar fi ChatGPT și alte modele de limbaj. Hrănit de o multitudine de exemple de texte preluate de pe Web, Claude a învățat probabilitatea apariției cuvintelor pe baza unor modele precum contextul semantic al textului înconjurător. Drept urmare, Claude poate ține o conversație deschisă, poate spune glume și poate filosofa pe o gamă largă de subiecte.

Cu toate acestea, Claude nu este perfect , deoarece, la fel ca toate AI, este susceptibil la unele dintre defectele ChatGPT, inclusiv furnizarea de răspunsuri care nu se potrivesc cu constrângerile programate. Într-unul dintre cele mai ciudate exemple, întrebând sistemul în Base64, o schemă de codificare care reprezintă date binare în format ASCII, ocolește filtrele sale încorporate pentru conținut dăunător.

Dar , spre deosebire de ChatGPT, Claude poate (dar nu întotdeauna) să admită că nu știe răspunsul la o întrebare deosebit de dificilă.

Testele dezvăluie că, de asemenea, pare a fi mai bun în a spune glume decât ChatGPT, o performanță impresionantă, având în vedere că umorul este un concept atât de dificil de înțeles pentru sistemele AI.

Este de menționat că Claude nu este disponibil publicului larg, deoarece poate fi testat doar printr-o integrare Slack ca parte a unei versiuni beta închise.

Participanții la beta și-au detaliat interacțiunile cu Claude pe Twitter, după ce embargoul privind acoperirea media a fost ridicat. Claude ar fi mai bun la glume, dar prost la programare. Comentariile arată, de asemenea, că Claude este susceptibil la unele dintre defectele ChatGPT.

În sfârșit, dacă ești interesat să poți afla mai multe despre el, poți verifica detaliile în următorul link.