Амерички научници су први пут склопили такву вештачку која препознаје када више није поуздана.
Научници су склопили неуронску мрежу која препознаје када више није поуздана. Она је осмишљена да опонаша људски мозак и уочава обрасце у маси података које људи више не могу анализирати. Вештачка интелигенција (AI), попут оне у аутономним возилима или медицинској опреми, већ сада доноси одлуке које могу утицати на људске животе, а то значи да је од виталне важности да буде што прецизнија. Да би то постигли, стручњаци су осмислили неуронску мрежу која показује ниво поверења и предвиђања.
„Није нам само важно да имамо моделе високих перформанси, већ и да разумемо када тим функцијама више не можемо веровати”, рекао је информатичар Алегзандер Амини из Института за рачунарске науке и вештачку интелигенцију (CSAIL) у саставу Масачусетског института за технологију (MIT). Својеврсна самосвест вештачке интелигенције своје бодовање темељи на квалитету доступних чињеница. Што су тачнији и свеобухватнији подаци добијени током обучавања, то је вероватније да ће будућа предвиђања бити поузданија. То би могло, примерице, бити важно за аутономна возила која треба да одлуче хоће ли сачекати или проћи кроз раскршће.
Иако су стручњаци већ уграђивали сличну заштиту у неуронске мреже, ова најновија функционише знатно брже од осталих, а без претераних рачунарских захтева, пише ScienceAlert. Чак и ако садашње неуронске мреже доносе правилне одлуке у 99 одсто случајева, онај један посто погрешних одлука може имати озбиљне последице. Стручњаци из MIT-ја, стога, сматрају да нови, поједностављени тест поверења може помоћи у побољшању сигурности. Истраживање под именом Deep Evidential Regression биће представљено на конференцији NeurIPS у деценбру, али још није прошло рецензију независних стручњака.
(Извор Индекс)
