Miks juturobotid teevad valesid järeldusi?
Ülevaade: OpenAI avaldas artikli, kus öeldakse, et tehisintellekt teeb vahel vigu, sest teda õpetatakse pigem kindlalt vastama kui tunnistama, et ta ei tea. See teadmine võib aidata parandada tehisintellekti kvaliteeti.
Detailid:
- Uuringud näitavad, et AI kipub välja mõtlema fakte, sest treeningul premeeritakse teda pigem vastuse andmise kui “ma ei tea” ütlemise eest.
- See tähendab, et kui mudel püüab olla alati täpne, annab ta vastuse ka siis, kui ta pole kindel.
- OpenAI katsetas seda, paludes mudelil öelda näiteks spetsiifilisi sünnipäevi. Tulemuseks olid ikka valed vastused.
- Teadlaste arvates tuleks hindamist muuta nii, et kindlalt valed vastused oleksid kahjulikumad kui vastamata jätmine.
Miks see on oluline: See uurimus aitab leida lahendusi tehisintellekti probleemidele. Kui treenimisel hinnatakse rohkem ausust kui kindlaid, aga valesid vastuseid, õpivad mudelid paremini oma piire tundma. Oluline pole ainult täpsus, vaid ka usaldusväärsus, eriti siis, kui AI teeb tähtsaid ülesandeid.
Anthropic maksab 1,5 miljardit dollarit autorite nõude lahendamiseks
Ülevaade: Anthropic nõustus maksma vähemalt 1,5 miljardit dollarit, et lahendada autorite kaebus autoriõigustega kaitstud teoste ebaseadusliku kasutamise kohta oma mudelite treenimisel.
Detailid:
- Autorid esitasid kaebuse, sest Anthropic kasutas väidetavalt üle 7 miljoni raamatu ebaseaduslikult, et treenida oma Claude AI-mudelit.
- Kohus otsustas, et seaduslikult ostetud raamatute kasutamine on lubatud, kuid ebaseaduslikud allalaadimised rikuvad autoriõigusi.
- hõlmab umbes 500 000 raamatut, mille eest makstakse 3 000 dollarit tüki kohta. Kui leitakse rohkem piraatkoopiaid, tuleb maksta lisaks.
- Anthropic peab kokkuleppe järgi kõik ebaseaduslikud failid ja koopiad kustutama.
Miks see on oluline: See on esimene suur kokkulepe autoriõiguse rikkumise asjades AI ettevõtete vastu. Kuigi jutt käib ebaseaduslikest koopiatest, näitab see, et hakatakse paika panema AI kasutamise seaduslikke piire. Summa on küll suur, aga Anthropicule nende väärtust arvestades mitte liiga koormav.
OpenAI koostöös Broadcomiga teeb oma tehisintellekti kiibid
Ülevaade: OpenAI plaanib koos Broadcomiga alustada oma tehisintellekti kiipide tootmist järgmisel aastal. See samm aitab vähendada nende sõltuvust Nvidia tehnoloogiast.
Detailid:
- Broadcomi juht paljastas, et üks klient on tellinud kiipe 10 miljardi dollari eest, ja allikad kinnitavad, et OpenAI kasutab neid ainult enda tarbeks.
- Need kohandatud kiibid aitavad OpenAI-l oma arvutusvõimsust kahekordistada, mis vastab kasvavale nõudlusele GPT-5 järele ja aitab lahendada graafikaprotsessorite nappust.
- OpenAI alustas koostööd Broadcomiga eelmisel aastal, kuid tootmise täpsed kuupäevad selgusid alles hiljem.
- Google, Amazon ja Meta on juba oma kohandatud kiibid loonud, mis võib vähendada Nvidia turuosa.
Miks see on oluline: Suurtes AI firmad tahavad rohkem arvutusvõimsust ja vähem sõltuda Nvidiast. OpenAI loodab oma kiipidega kulusid kokku hoida.