Anthropic hoiatab isetäiustuva tehisintellektiga seotud riskide eest

Traders Union
Kõik uudised
Krüptouudised
Anthropic hoiatab tehisintellektiga seotud riskide eest

Kõik uudised

Peamised uudised

Toimetajate valikud

Krüptouudised

Finantsuudised

Maaklerite uudised

Reguleerivate asutuste uudised

Eugene Komchuk

05.06.2026

Anthropic hoiatab isetäiustuva tehisintellektiga seotud riskide eest — Anthropic hoiatas tehisintellektist tuleneva ohu eest

USA tehisintellekti ettevõte Anthropic on hoiatanud, et tehisintellekti areng kiireneb nii kiiresti, et lähitulevikus võivad AI-agendid iseseisvalt luua, treenida ja täiustada uusi süsteeme ilma inimsekkumiseta. Selle taustal on ettevõte kutsunud üles aeglustama närvivõrkude arendamist.

See artikkel on tõlgitud originaalist. Lugege meie korrespondendi algset versiooni siit.

Anthropic Institute'i juht Marina Favaro ja Anthropicu kaasasutaja Jack Clark ütlesid blogipostituses, et AI-agendid on juba praegu võimelised iseseisvalt koodi käivitama, delegeerima tunde tööd teistele agentidele ja lähenevad järk-järgult punktile, kus nad võivad üle võtta kogu arendustsükli.

„Suurema osa AI ajaloost kontrollisid inimesed selle arendamise iga etappi. Kuid Anthropics delegeerime me üha suurema osa AI arendusest AI süsteemidele endile, mis kiirendab meie tööd,“ ütlesid nad.

Favaro ja Clarki sõnul võib selle trendi jätkumisel ja süsteemide piisava arvutusvõimsuse saamisel lõpuks tekkida tehisintellekt, mis on võimeline täiesti autonoomselt projekteerima ja arendama oma järeltulijat.

Keskendumine ohutusele

Selliste võimekuste kasv tekitab muret stsenaariumi pärast, kus AI võib iseseisvalt targemaks muutuda. Detsembris teatas OpenAI, et uurib ohutuid viise üha täiustatumate AI-süsteemide arendamiseks ja kasutuselevõtuks, sealhulgas mudelite puhul, mis on võimelised rekursiivseks isetäiustumiseks.

OpenAI ütles, et soovib, et sellised süsteemid järgiksid järjepidevalt inimeste kavatsusi keerulistes reaalsetes stsenaariumides ja vaenulikes tingimustes, väldiksid katastroofilist käitumist, jääksid kontrollitavaks ja auditeeritavaks ning püsiksid kooskõlas inimväärtustega.

Nad lisasid, et kui inimeste kirjutatud ja AI kirjutatud koodi kvaliteet saavutab pariteedi, võivad inimesed koodi kirjutamise üldse lõpetada ja minna üle ainult selle kontrollimisele. Kui nad aga ei suuda koodi nii kiiresti üle vaadata, kui Claude seda genereerib, muutub inimkontroll AI arendamise peamiseks kitsaskohaks.

Miks aeglustada AI arendamist

Favaro ja Clark ütlesid ka, et ideaalne stsenaarium oleks arengu aeglustamine, et ühiskonnal oleks rohkem aega mõista selle tehnoloogia „tohutuid“ tagajärgi.

Aprillis keeldus Anthropic avalikustamast oma AI-mudelit Claude Mythos globaalsete küberjulgeolekuohtudega seotud murede tõttu. Mudel suutis hõlpsasti luua tarkvara haavatavusi, mistõttu otsustas ettevõte seda praegu mitte avalikustada.

Samal päeval avaldas rühm tehnoloogiajuhte, sealhulgas Anthropicu ja OpenAI esindajad, avaliku kirja, milles kutsusid seadusandjaid üles kehtestama AI-le rangemaid piiranguid. Autorid hoiatasid, et tehnoloogia võib aidata pahatahtlikel osapooltel ületada „teadmiste barjääre“, mis olid varem takistanud neil bioloogiliste relvade loomist.

Samas rõhutasid nad, et pelk aeglustamine võib tekitada uusi riske, kui see võimaldab vähem ettevaatlikel osapooltel tehnoloogiliselt tööstusharu liidritele järele jõuda. Ilma globaalse koordineerimismehhanismita on ettevõtted ja valitsused sunnitud tegema raskeid ohutusalaseid otsuseid konkurentsi ja geopoliitilise surve all.

Mis teeb Claude'i väärtuslikuks

Anthropicu lipulaev on AI-assistent Claude. See on keelemudelite perekond, mis on loodud töötama teksti, koodi, andmete ja keeruliste ülesannetega, kus lisaks vastamiskiirusele on olulised ka ohutus, kontrollitavus ja usaldusväärsus. Claude'i kasutatakse universaalse assistendina: see suudab kirjutada ja toimetada tekste, analüüsida dokumente, selgitada keerulisi teemasid, aidata programmeerimisel, leida koodist vigu ning koostada kokkuvõtteid, e-kirju, aruandeid ja muid töömaterjale.

Ettevõtete jaoks on Claude väärtuslik, kuna see suudab üle võtta osa rutiinsest intellektuaalsest tööst. Seda kasutatakse klienditoes, analüütikas, tarkvaraarenduses, juriidilistes ja finantsprotsessides, turunduses ja ettevõtte sisestes tööriistades. Ettevõtted kasutavad Claude'i vestlusassistendina, API-na oma toodetesse integreerimiseks ja tööriistana ülesannete automatiseerimiseks, mis nõuavad suurte teabehulkade kiiret töötlemist ja selgete vastuste saamist loomulikus keeles.

Meeldetuletuseks: Claude aitas taastada parooli rahakotile, mis sisaldas 5 Bitcoini.

See materjal võib sisaldada kolmandate osapoolte arvamusi, kuid sellel veebilehel olevad andmed ja teave ei kujuta endast investeerimisnõuandeid vastavalt meie lahtiütlusele. Kuigi järgime ranget toimetuslikku terviklikkust, võib see postitus sisaldada viiteid meie partnerite toodetele.

Kas teile meeldis artikkel?