Друго

АИ се сабласно приближава подацима из Стар Трек -а: ТНГ сада када зна да ли му можете веровати или не

2024

Можда није толико самосвесно као Подаци из Звездане стазе: ТНГ (још), поготово јер би се тај дроид могао боље бринути о мачки од неких људи, али АИ је сада дошла до тачке да схвати када није поуздана.

Оно што се сада зове дубока евиденциона регресија је изједначила самосвест АИ. Знаће када има веће шансе да направи грешку у предвиђању, на основу процене поузданости података које гледа. Већа је вероватноћа да ће се будућа предвиђања остварити ако на њих утичу темељитији и тачнији подаци. Супротно значи да ће ствари вероватно кренути наопако - и АИ то може осетити. Када процени своју сигурност о нечему, та ће се сигурност повећавати и смањивати у зависности од података којима се уноси. АИ тада може утврдити ризик или несигурност са 99% тачности.

национални водич за божићне празнике за родитеље

Чини се да би чак и Пицард био импресиониран - али сачекајте. Постоји само један недостатак робота који су свесни себе, а то је да 99% није потпуна сигурност, без обзира на то колико је близу. Одсуство за само 1% могло би значити катастрофу у потенцијално животно опасним сценаријима, од вожње аутономним аутомобилом до извођења операције. Страшно.

Иако [дубока евиденциона регресија] има неколико предности у односу на постојеће приступе, њена примарна ограничења су у подешавању коефицијента регуларизације и у ефикасном уклањању доказа који не доводе у заблуду при калибрацији несигурности, рекао је МИТ Пх.Д. студент Александар Амини , који је водио студију коју ће представити на конференцији НеурИПС следећег месеца.

Оно што су Амини и његов тим успели је још увек прилично значајно. Пре тога, коришћење АИ за процену неизвесности није било само скупо, већ и превише споро за одлуке које је потребно доносити у делићима секунде. Неуронске мреже могу бити толико огромне да им може проћи вечно да израчунају одговор, а чекање да сазнају ниво поверења било би предуго да би се чак и потрудио уложити напор. Било би бесмислено користити овако нешто у себи -аутомобил за вожњу који мора знати на који скренути одмах. Процес се убрзао дубоком евиденционом регресијом. Ова неуронска мрежа се мора покренути само једном да би се утврдио ниво несигурности.

Нагађајући несигурност у моделу који је АИ већ научио, може нам отприлике рећи колико је велика граница грешке. АИ користи доказе да поткрепи своју процену. Ови докази укључују сваку несигурност која се крије у подацима које је управо анализирала неуронска мрежа или њена самосвијест о томе колико је сигурна у своју одлуку. Амини и његов тим тестирали су методу дубоке евиденционе регресије обучавајући АИ да процени дубину сваког пиксела на слици. Перцепција дубине може значити живот или смрт у операцији која мора уклонити тумор који се може налазити дубоко у тијелу и тешко га је видјети другачије.

АИ је углавном био тачан, али је забрљало једном је храњен сликама које је било теже запамтити. Барем је постојала доследност у једној ствари: када би се суочио са сликама које су му стварале потешкоће, обавестио би тим о својој неизвесности без грешке. Његова утврђена маргина грешке може барем научити истраживаче како да побољшају тај модел. Његова способност да препозна слике које су фотошопиране такође отвара могућност препознавања дубоких лажних слика. Људи само треба да буду свесни да је овај мозак робота још увек погрешан и да му не можемо веровати више него што може веровати себи.

Верујемо да је даља истрага оправдана како би се открили алтернативни начини уклањања доказа који не доводе у заблуду, Рекао је Амини .