Разно

Автономните автомобили не можат да ги препознаат пешаците со потемни тонови на кожата

Автономните автомобили не можат да ги препознаат пешаците со потемни тонови на кожата


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Новиот извештај покажува дека системите дизајнирани да им помогнат на автономните автомобили да ги препознаваат пешаците може да имаат проблем да препознаат луѓе со потемни тонови на кожата. Загрижувачкото истражување е поставено на серверот за печатење arxiv.

ПОГЛЕДНЕТЕ ИСТО: ОСВЕТЛУВАЕТО ВО ВЕШТАЧКА ИНТЕЛЕГЕНЦИЈА БАРА ДИСЦИПЛИНА И КОМПАС

Веќе постоеја докази дека некои софтвери за препознавање на лице се борат да работат со потемни тонови на кожата. Но, резултатите од студијата за автономни автомобили имаат потенцијален смртоносен исход.

Најдобри светови покажуваат пристрасност

Истражувачи од Georgiaорџија Тех истражувале осум модели на АИ, користени во најсовремените системи за откривање на објекти за да ја завршат својата студија. Овие системи им овозможуваат на автономните возила да препознаваат патокази, пешаци и други предмети додека се движат по патиштата.

Тие ги тестираа овие системи користејќи две различни категории засновани на скалата Фицпатрик. Скала што обично се користи за класифицирање на бојата на кожата на човекот.

Потемна кожа со поголем ризик

Генерално, точноста на системот се намали за 5 проценти кога беше претставен со групи на слики на пешаци со потемни тонови на кожата. И според објавениот труд, моделите покажаа „подеднакво послаба изведба“ кога се соочија со пешаците со трите најтемни нијанси на скалата.

Овие резултати доаѓаат откако резултатот е прилагоден за да се земе предвид дали фотографијата е направена дење или ноќе. Сумирајќи, извештајот сугерира дека луѓето со потемни тонови на кожата ќе бидат помалку безбедни во близина на патиштата во кои доминираат автономни возила отколку оние со посветла кожа.

Елиминацијата на пристрасност започнува со разновидност во истражувањето

Извештајот за среќа дава краток преглед на тоа како да се поправи оваа неодминлива реалност. Ова започнува со едноставно зголемување на бројот на слики на пешаци со темна кожа во збирките на податоци што се користат за обука на системите.

Инженерите одговорни за развојот на овие системи треба да стават поголем акцент на обука на системите со поголема точност за оваа група.

Извештајот, за кој авторите велат дека се надеваат дека дава доволно убедливи докази за решавање на ова критично прашање пред да се распоредат овие системи за препознавање во светот, е уште еден потсетник за општиот недостаток на разновидност во светот на АИ.

За жал, ова не е прв извештај за потенцијално смртоносен расизам во системите што работат на АИ. Во мај минатата година, ProPublica објави дека софтверот што се користи за да им помогне на судиите во утврдувањето на ризикот што сторителот го претставува за повторно прифаќање на кривичното дело е пристрасен кон црните луѓе.

Расното профилирање е смртоносно

Системот го користат судиите при кривични казни, тој обезбедува оценка заснована врз основа на тоа дали лицето најверојатно ќе повтори. Високиот резултат сугерира дека тие повторно ќе навредат, а нискиот резултат сугерира дека е помалку веројатно.

Истражувачките новинари ја проценија резултатот на ризик доделен на повеќе од 7000 лица во округот Броуард на Флорида во 2013 и 2014 година и потоа гледаа дали истите лица се обвинети за нови злосторства во следните две години.

Алгоритмот не само што се покажа како неверодостоен, туку само 20 проценти од луѓето предвидуваа дека ќе извршат насилни злосторства. Исто така беше расно пристрасно.

Црните обвинети најверојатно биле обележани како идни криминалци, погрешно ги етикетирале со скоро двојно поголема стапка од белите обвинети. Додека белите обвинети почесто беа етикетирани како низок ризик отколку црните.

Заедницата за развој на АИ мора да се здружи и да заземе јавен став против ваквата масовно штетна пристрасност.


Погледнете го видеото: Како ќе реагирате ако ве служи фармацевтски техничар со Даунов синдром? (Јуни 2022).


Коментари:

  1. Jawhar

    И нешто слично е?

  2. Torio

    And what do we do without your very good ideas

  3. Kazram

    You have difficult choices

  4. Toren

    Со задоволство го прифаќам. Прашањето е интересно, ќе учествувам и јас во дискусијата. Знам дека заедно можеме да дојдеме до вистинскиот одговор.

  5. Darrin

    I probably promolchu



Напишете порака