FlashProve․ Anthropic-ը փորձարկում է ԱԲ պատասխանի ծագումը ստուգելու միջոց
Արհեստական բանականության ծառայությունից պատասխան ստանալիս ինչպե՞ս համոզվել, որ այն մշակել է հենց խոստացված մոդելը։ Anthropic-ը նոյեմբերի 2-ին ներկայացրել է FlashProve հետազոտական նախատիպը, որը փորձում է այդ հարցին պատասխանել կրիպտոգրաֆիկական ապացույցով։
Մոտեցումը ենթադրում է, որ մատակարարը նախ հրապարակում է մոդելի կշիռների թվային դրոշմը։ Հետագայում պատասխանի հետ տրամադրվող ապացույցը կարելի է համեմատել այդ դրոշմի հետ՝ առանց մոդելի ներքին պարամետրերը բացահայտելու կամ այն օգտատիրոջ սարքում ամբողջությամբ գործարկելու։
Սա կարող է օգտակար լինել հատկապես միջնորդ ծառայությամբ ԱԲ օգտագործող ընկերություններին և մոդելները գնահատող մասնագետներին։ Ստուգման նպատակը մոդելի մասնակցությունը հաստատելն է։ Այն ինքնին չի նշանակում, որ պատասխանի փաստերը ճիշտ են, եզրակացությունը՝ անվտանգ, կամ խորհրդատվությունը՝ մասնագիտական ստուգում անցած։
Ընկերության փորձարկումը կատարվել է Llama 4 Maverick մոդելի քառաբիթ տարբերակով։ Ըստ հրապարակման՝ 1024 թոքենի համատեքստի համար ապացույցի չափը մոտ 19 ՄԲ է, իսկ ստուգումը կենտրոնական պրոցեսորով տևում է վայրկյաններ։ Ապացույցի ստեղծումը, սակայն, հաշվարկային առումով զգալիորեն թանկ է սովորական գործարկումից։
Նախատիպն ունի սահմանափակումներ․ ստուգվում է որոշակի ամբողջաթվային հաշվարկ և պատասխանի ընտրության սահմանված եղանակ, իսկ մոդելի ճարտարապետությունը չի թաքցվում։ Կոդն ու տեխնիկական նյութերը հրապարակվել են Apache 2.0 արտոնագրով։ Anthropic-ը սա ներկայացնում է որպես միջանկյալ հետազոտական արդյունք, ոչ թե արդեն բոլոր օգտատերերի համար գործող ծառայություն։
Comments