Ви знаходитесь вправо для вибору використовуйте поради дані про дорослим і дітям без їх дозволу, а також деформовані стереотипи, які неминуче формують сімей відносяться до категорії (алгоритми рада сімейного використання даних для прогнозування ризику жорстокого поводження з дітьми, 17 вересня). Але проблеми більш широкого спектру. У політичних дискусіях формується Climbi? і дитячі П скандалів, попереджувальні заходи, але етичні дебати про те, який рівень втручання у сімейне життя, на якій підставі, і як завчасно, потрібно ще мати місце. Такі дебати будуть необхідні точні пророкування, але і стати абсолютно важливо, коли, як і з будь-якими ризиками програми скринінгу, помилкові спрацьовування неминучі. У даній популяції, де базовий рівень насильства низький, ці помилки будуть значно вище, ніж прийнято вважати.

Шум навколо великих даних і штучного інтелекту може стати провідним рад виходять не тільки витрати на скринінг ризику, а також якість даних. Наші власні дослідження в області захисту дітей відзначається слабка доказова база для втручання, соціальних працівників падають на сиру припущення. Стереотипи є дискримінаційними щодо деяких сім\'ях і призводять до видом ризику в інших випадках, але може закріпитися і були узаконені при включенні в технології. Дослідження необхідні ці технології підвищить якість прийнятих рішень, або ж вони стали некритично покладатися на тиск професіонали зі зростаючою навантаженням. Спокусившись програмно-керовані рішення, наші на межі і децентралізована системи захисту дітей, може не вистачає потужностей для надійного етичного і науково обґрунтованого відображення цих технологій.Д-р Патрік професор BrownAssociate, Амстердамського інституту досліджень у сфері соціальних наук, університет Амстердама; редактор, здоров\'я, ризик і суспільство

• Що поради використовують інтелектуальні алгоритми для виявлення вразливих сімей ризику жорстокого поводження з дітьми є ні добрим, ні поганим. Деякі приватні компанії, безумовно, добре, але нам потрібні докази, що такий підхід приносить більше користі, ніж шкоди для громадськості. П\'ять питань необхідно відповісти, щоб оцінити, наскільки ці прогностичні моделі соціально незахищених сімей та є економічно ефективними для безгрошової рад:

По-перше, алгоритм приведе до сім\'ям, які отримують ефективну втручання, що знижує жорстокого поводження з дітьми? Доказів не вистачає для програми неблагополучних сімей і там занадто мало рандомізованих досліджень соціальної опіки дитини, щоб знати, що працює. По-друге, що вразливі сім\'ї втратити на допомогу, тому що вони були пропущені алгоритмом, а які сім\'ї були помилково визначено? Обидві помилки мають наслідки, які повинні враховуватися в чистій користь і шкоду. По-третє, наскільки добре алгоритм виконання порівняно з альтернативними підходами для виявлення сімей групи ризику? По-четверте, алгоритм спирається на минуле практика виявлення сімей; наскільки точним було це? По-п\'яте, як уряд може підтримувати суспільну довіру у сфері послуг і використання відкритих даних, при Радах претендуєте нерозкритою алгоритми відкриті дані без нашого відома і згоди, для здійснення заходів неоцінений, на екрані свого населення на проблему настільки серйозною, як жорстоке поводження з дітьми?

Ставки високі з точки зору потенційного шкоди. Передбачувані вигоди від алгоритми повинні підтримуватися прозорість і надійні докази користі.Професор Рут Гілберт і Рейчел Пірсон Університетський коледж LondonProf ген Федер Брістольського університету

• Його глибоко щодо того, що поради використовують алгоритми, щоб визначити або передбачити ймовірність жорстокого поводження з дітьми. Крім проблем конфіденційності, ці суб\'єкти найчастіше не знають точного характеру і точності даних, що зберігаються на них: що насправді являє собою "відомості"? Будь-хто, хто переслідував чи безвинно полеглих у немилість неприємність сусіди знають, що помилкові твердження є зброєю. Навіть при Радах рекомендується відповідно і звинувачень категорично доведено, як помилкове, деякі відмовляються виправляти або видаляти недостовірні дані протягом багатьох років. Щодо беззубий закон Про захист інформації, Ради суб\'єктів даних (всіх нас) зараз зіткнулися з підвищеним хвилюватися і повернутися. Також, як ті, які спираються на алгоритми змиритися з тим, що їх "даних" і, отже, прогнозів і наслідків може бути не так? У цинічному світі безгрошової рад, якщо вони мотивовані збільшенням доходу, можна, але питання мотивів використання цієї порочної системи. Якщо тільки 80% пророкувань праві, щодо 20%, що не так?Шармен FletcherBasildon, Ессекс

• В додаток до бідності етики виник із-за неможливості отримання інформованої згоди та відсутності підзвітності компаній-спонсорів, малоймовірно, в будь-якому науковому сенсі, що нерепрезентативная відомості з алгоритмічної профілювання може встановити причинність і передбачуваність.

Навіть великі представницькі набори даних, такі як шведський національний реєстр всю народжуваності когорт визначити "фактори ризику" – не бездоказово прогностичного аналізу – при порівнянні груп молодих людей з іншим населенням. Їх методики були виявлені поганої успішності в школі догляду за випускниками як "дуже високий фактор ризику" психолого-соціальних проблем у дорослому віці, відіграють важливу роль у міжнародному контексті і уваги для поліпшення політики і практики, і показує, як використовувати строгі кількісні дані та професійні судження можуть доповнювати одне одного.Проф Майк SteinUniversity Йорка

• Чому безгрошові поради витрачати гроші на інтелектуального програмного забезпечення, говорить нам, що ми вже знаємо? Це не ракетобудування. Бідність, наркоманія, слабке здоров\'я, виключення зі школи і т. д., завжди були предикторами потенційні труднощі для дітей. Вони повинні витрачати ті невеликі гроші, які є на профілактичні послуги, впевнений, розплідники пуск, молодіжних клубів та асистентів.Тіна ShawSt Олбанс, Хартфордшир

• Ваші статті (18 вересня) піднімає ряд фундаментальних питань про природу громадських служб і професіоналів, які працюють в цих службах. Потенціал для комп\'ютерного автоматизованого прийняття рішень, не може бути проігноровано. Доказів, судження і заходів і послуг повинні визначатися найкраще з того, що ми знаємо, орієнтованої на потреби і обставини людей, які опинилися в скрутному становищі і довіряти і поважати те, що пропонується.

Коли справа доходить до послуг для дітей і сімей, роль держави в корені визначеними статтею 8 Європейської конвенції з прав людини – "право на повагу до приватного і сімейного життя, житла і кореспонденції". Тільки при цьому конфліктів з іншими основними правами держава зобов\'язана втрутитися проти волі індивіда або сім\'ї.

Захист дітей є однією з цих областей, і є напруженість між необхідністю забезпечити доступність послуг для сімей житло, дохід, харчування, медичне обслуговування та освіту – а можливість вилучити дитини від батьків побажання, якщо це єдиний варіант, щоб захистити їх. Соціальні працівники майже не потрібні алгоритми, щоб визначити, які сім\'ї потребують житло, їжа і одяг. Їм може знадобитися підтримка прийняття рішень при виявленні кращий довгостроковий план для дитини, де цього недостатньо.

Ми зобов\'язані підтримувати кожної дитини в кожній родині. Не може бути ніяких сумнівів у тому, що державна політика повинна бути тісно пов\'язана з основним завданням. Мій алгоритм мені підказує, що на даний момент це не.Джон SimmondsDirector політики, наукових досліджень і розвитку, CoramBAAF

• Приєднатися до дискусії – по електронній пошті guardian.letters@theguardian.com

• Детальніше листи опікуна – натисніть тут, щоб відвідати gu.com/letters

• У вас є фото, які ви хотіли б поділитися з читачами опікуна? Натисніть тут, щоб завантажити його, і ми будемо публікувати кращі матеріали в листах поширення нашого друкованого видання

Полный текст  →

Источник: radioera.com.ua.