Dijital Algoritmalar Gabriel Fernandez Gibi Çocukları İstismardan Korumaya Yardımcı Olabilir mi?

Her yıl kabaca 7 milyon çocuk olası istismar nedeniyle çocuk esirgeme kurumlarına bildiriliyor, ancak yetkililer çocukların sevip sevmediğini nasıl belirleyecek? Gabriel Fernandez ciddi tehlike altında ve müdahaleye ihtiyaç duyuyor musunuz?





Pek çok çocuk refahı yetkilisi, şüpheli istismarın bildirildiği yerlerde telefon hatlarına eğitilmiş personel tarafından verilen risk değerlendirmelerine güveniyor, ancak bazıları daha iyi bir yol olabileceğine inanıyor.

Ted Bundy Elizabeth'i neden öldürmedi

'İnsanların özellikle iyi kristal küreler olmadığını öne süren geniş bir literatür var,' dedi. Çocuk Veri Ağı ve USC'de bir doçent, yeni Neflix belgesel dizisinde 'The Trials of Gabriel Fernandez' dedi. 'Bunun yerine, söylediğimiz şey, bu çocuklardan hangisinin uzun ark riskinin gelecekte sistem katılımını önereceği bir profile uyduğunu belirlemek için bir algoritma eğitelim.'



Fernandez, dövülerek işkence edilerek öldürülen 8 yaşında bir çocuktu. anne ve onun erkek arkadaş , öğretmeni ve diğerlerinin şüpheli tacizi bildiren yetkililere tekrar tekrar aramalarına rağmen. Yeni altı bölümlük dizi, Fernandez’in hayatını ve korkunç ölümünü inceliyor, ancak aynı zamanda daha geniş bir bakış açısıyla ele alınıyor. sistemik problemler çocuk refah sistemi içinde bir rol oynayabilirdi.



Putnam-Hornstein, en büyük risk altındaki çocukları daha etkili bir şekilde tanımlamak için bir stratejinin, her çocuk için risk puanlarını belirlemek için idari kayıtlar ve veri madenciliği kullanan özel olarak oluşturulmuş algoritmalar kullanmak olabileceğini savunuyor.



'Aslında ABD'de her yıl istismar veya ihmal iddiasıyla rapor edilen yaklaşık 6 veya 7 milyon çocuğumuz var ve tarihsel olarak bazı tarama kararlarımızı verme şeklimiz sadece bir tür içgüdüsel değerlendirmelere dayanıyor,' dedi. 'Tahmine dayalı risk modellemesi sadece' Hayır, hayır, hayır, buna daha sistematik ve ampirik bir yaklaşım alalım 'diyor.'

Putnam-Hornstein ve Rhema Vaithianathan, Sosyal Veri Analitiği Merkezi , fikri Allegheny County, Pennsylvania'da uygulamaya koyabildiler. İkili, ilçenin çocuk koruma hizmetlerine bildirilen her aile için bir risk puanı belirleyecek bir algoritma tasarlamak için binlerce çocuğa kötü muamele tavsiyesi kullandı. Sağlık Gazeteciliği Merkezi .



Allegheny İlçe İnsan Hizmetleri Departmanı müdürü Marc Cherna, belgesel dizisinde “Bakılan yüz kadar farklı faktör var” dedi. 'Bazı temel örnekler, çocuk refahı geçmişi, ebeveynin geçmişi, kesinlikle uyuşturucu kullanımı ve bağımlılığı, aile akıl hastalığı, hapis ve mahkumiyetler ve özellikle de saldırı ve benzeri şeyler varsa.'

Çok sayıda çağrı nedeniyle, ülke çapındaki çocuk refahı yetkilileri, şikayete dayalı olarak bir ailenin soruşturma için taranması veya taranmasının gerekip gerekmediğini belirlemekle görevlidir.

cornelia marie şimdi nerede

2015 yılında, ülke genelinde 7,2 milyon çocuğun yer aldığı 4 milyon iddianın% 42'si tarandı. New York Times .

Yine de çocuklar çocuk istismarından ölmeye devam ediyor.

Allegheny County'de kullanılan sistem, veri analizi yoluyla gelecekte hangi ailelerin sisteme dahil olma olasılığının yüksek olduğunu daha doğru bir şekilde tahmin etmek için tasarlanmıştır.

Vaithianathan, The Times'a “Ekranların sahip olduğu çok fazla veri” dedi. 'Ancak, gezinmek ve hangi faktörlerin en önemli olduğunu bilmek oldukça zor. C.Y.F.'ye yapılan tek bir çağrı içinde. , iki çocuğunuz olabilir, bir fail olduğu iddia ediliyor, anneniz olacak, evde başka bir yetişkiniz olabilir - tüm bu kişilerin sistemde, aramayı tarayan kişinin araştırmaya gidebileceği geçmişleri olacaktır. Ancak insan beyni, tüm verileri kullanma ve bunlardan anlam çıkarma konusunda o kadar yetenekli değil. '

Docu serisinde Allegheny ailesi tarama aracı, herhangi bir durumda 'ne olabileceğine dair bir tahmin yapmaya çalışmak' için tarihsel modellere bakmak için 'veri madenciliği' adı verilen istatistiksel bir teknik kullandığını söyledi.

Her vakaya, her vakayı yüksek riskli, orta riskli veya düşük riskli olarak kategorize eden bir ile 20 arasında değişen bir risk puanı verilir.

Pittsburgh Çocuk Hastanesinde bir çocuk doktoru olan Rachel Berger, 2018'de The Times'a yaptığı açıklamada, tahmine dayalı analizi değerli kılan şeyin, tipik olarak sürece giren bazı öznelliği ortadan kaldırması olduğunu söyledi.

'Bu çocukların tümü kaos içinde yaşıyor' dedi. 'C.Y.F. Hepsinin risk faktörleri varken en çok tehlikede olanları seçin? Çocuk koruma kararlarına giren öznellik miktarına inanamazsınız. Tahmine dayalı analitiği bu yüzden seviyorum. Nihayet, inanılmaz derecede hayat değiştiren kararlara biraz tarafsızlık ve bilim getiriyor. '

kim milyoner öksürmek ister

Ancak tahmine dayalı analitiği kullanmanın zaten önyargılı olabilecek verilere dayandığını iddia eden eleştirmenler de var. Docu serisine göre, geçmiş araştırmalar, azınlıkların ve düşük gelirli ailelerin toplanan verilerde genellikle aşırı temsil edildiğini ve potansiyel olarak Afrikalı-Amerikalı ailelere veya diğer azınlık ailelerine karşı bir önyargı yarattığını göstermiştir.

'İnsan önyargıları ve veri önyargılarıBirbirinizle el ele gitOhio Eyalet Üniversitesi Irk ve Etnisite Çalışmaları için Kirwan Enstitüsü'nde kıdemli araştırma görevlisi olan Kelly Capatosto, Sağlık Gazeteciliği Merkezi'ne göre, ”dedi. “Bu kararlarla, polis, çocuk esirgeme kurumları, sosyal yardım hizmeti veren kurumlar ile gözetim ve sistem temasını düşünüyoruz. (Düşük gelirli ve azınlık) topluluklarda fazlasıyla temsil edilecek. Bu örneklerin nerede gerçekleştiğinin bir göstergesi olmayabilir. '

Allegheny County’nin analiz, teknoloji ve planlama bürosunun müdür yardımcısı Erin Dalton, önyargının mümkün olduğunu kabul etti.

'Elbette, sistemlerimizde önyargı var. Çocuk istismarı bizim tarafımızdan görülüyor ve verilerimiz gerçek çocuk istismarının bir işlevi değil, kimin ihbar edildiğinin bir işlevi ”dedi Netflix dizisinde.

Ancak ilçe, Sağlık Gazeteciliği Merkezine, kamu yararına olmanın neredeyse ailelerinin risk puanlarını düşürdüğünü keşfettiğini de söyledi.

TCherna ayrıca belgesel dizisinde, ilçenin bu endişeye 'çok duyarlı' olduğunu ve grupların orantısız bir şekilde hedef alınıp alınmadığını belirlemek için sistem üzerinde sürekli analizler yaptığını söyledi.

Allegheny County sistemi ilçenin kendisine aittir, ancak özel sektöre ait diğer tarama sistemlerine de bazı eleştiriler yapılmıştır.

Illinois Çocuk ve Aile Hizmetleri Departmanı, 2018'de kar amacı gütmeyen Eckerd Connects ve kar amacı gütmeyen ortağı MindShare Technology tarafından geliştirilen tahmine dayalı bir analiz paketini artık kullanmayacağını, çünkü şirketin hangi faktörlerin ayrıntılarını vermeyi reddetmesi nedeniyle duyurdu. The Times'a göre formüllerinde kullanılıyordu.

kehribar gül o siyah mı yoksa beyaz mı

Bildirildiğine göre, sistem binlerce çocuğu acil korumaya ihtiyaç duyuyor olarak tanımlamaya başladı ve 4.100'den fazla Illinois çocuğuna yüzde 90 veya daha fazla ölüm veya yaralanma olasılığı verdi. Chicago Tribune 2017'de bildirildi.

Yine de, yüksek risk puanları almayan diğer çocuklar yine de istismardan ölüyordu.

'Tahmine dayalı analitik kötü durumlardan herhangi birini tahmin etmiyor (değildi),' Department of Children and Family Services direktörü Beverly 'B.J.' Walker, Tribune'e söyledi. Bu sözleşmeye devam etmemeye karar verdim.

Daniel Hatcher, ' Yoksulluk Sektörü: Amerika’nın En Savunmasız Vatandaşlarının Sömürü ”, Bazı analitik sistemleri bir' kara kutu 'ile karşılaştırdı ve docu dizisinde kararlarını nasıl verdiklerinin her zaman net olmadığını söyledi.

'Bir birey üzerinde büyük etkisi olan bir bakım düzeyine gerçekte nasıl karar verdiklerini anlamalarının hiçbir yolu yok' dedi.

Putnam-Hornstein tahmine dayalı analitik sistemlerin gelecekteki davranışı belirleyemeyeceğini kabul etti, ancak bunun, tarayıcıların hangi çocukların en büyük risk altında olabileceği konusunda daha bilinçli kararlar vermelerine olanak tanıyan değerli bir araç olduğuna inanıyor.

'Umarım bu modeller, sistemimizin riskin özellikle yüksek olduğu nispeten küçük sevk alt kümesine daha fazla dikkat etmesine yardımcı olur ve önleyici bir şekilde bu çocuklara ve ailelere daha fazla kaynak ayırabiliriz' dedi. Sağlık Gazeteciliği Merkezine. 'Kimsenin tahmine dayalı risk modellemesini abartmasını istemiyorum. Kristal küre değil. Tüm sorunlarımızı çözmeyecek. Ancak sınırda, biraz daha iyi kararlar almamıza ve yüksek riskli vakaları belirlememize ve bunları düşük riskli vakalardan ayırıp buna göre ayarlamamıza izin veriyorsa, bu alan için önemli bir gelişme olabilir.

Popüler Mesajlar