RAM
New member
Kameralı ve sensörlü yeni jenerasyon bir Roomba robot süpürge, 2020 yılında tuvaletini yapan bir hanımı kaydetti (diğer biroldukça olayın yanı sıra) ve manzaralar başta Facebook olmak üzere toplumsal medya aracılığıyla tüm dünyaya yayıldı. Pekala bu nasıl oldu?
Gerçek şu ki, mesele robotun manzaraları yayınlaması değil, yapay zeka eğitim sistemlerinin ve her şeydilk evvel her insanın mahremiyetinin sorgulanması. MIT Tech Review‘da yer alan habere bakılırsa, imgeler bir kişi tarafınca değil, iRobot şirketinin ürettiği Roomba J7 robot sürpürgenin geliştirme versiyonları tarafınca çekildi.
iRobot: Sorun yapay zekada değil, insan faktöründe
hemen sonrasında bu bilgiler, yapay zekayı eğitmek için kullanılan ses, fotoğraf ve görüntü datalarını etiketlemek üzere dünyanın dört bir yanından çalışanları işe alan bir startup olan Scale AI‘ye gönderildi. Oradan da her yere dağıldı.
MIT Technology Review, sosyal medya gruplarına gönderilmiş olan bu özel fotoğrafların 15 ekran görüntüsünü ele geçirdi. Bilhassa bir karede, lavanta rengi tişört giymiş genç bir bayanın tuvalette oturduğu görülüyor.
Bir öteki imajda, sekiz ya da dokuz yaşlarında olduğu anlaşılan ve yüzü açıkça görülebilen bir çocuk, koridorun zeminine yüzüstü yatmış durumda. Başka çekimler dünyanın dört bir yanındaki evlerden, kimilerinde insanların, kimilerinde ise bir köpeğin yaşadığı odaları gösteriyor.
Yakın vakitte Amazon tarafınca 1,7 milyar dolara satın alınan iRobot mevzuyla ilgili yaptığı açıklamalarda, bu imgelerin 2020 yılında Roomba tarafınca çekildiğini doğruladı. Şirkete nazaran sorun Robotun kendisinde değil, akıllı süpürgeler için kullanılan algoritmanın eğitiminden sorumlu olan insan faktöründeydi.
Sızıntı hakkında soruşturma başlatıldı
iRobot’a göre, aygıtlar “video kaydı devam ediyor” yazan parlak yeşil bir etiketle etiketlenmişti ve test edilmesi maksadıyla çalışanlarına dağıtılmıştı. Öbür bir deyişle, şirketin açıklamalarına nazaran, fotoğrafları yahut videoları ortaya saçılan herkes, Roomba’larının onları izlemesine müsaade vermişti.
iRobot’a göre bu asla gerçekleşmemeliydi. Şirket, imgeleri sızdıran hizmet sağlayıcıyla ilişkisini sonlandırdı, mevzuyu etkin bir biçimde araştırıyor ve MIT Tech Review’a bildirdiği üzere, gelecekte herhangi bir hizmet sağlayıcı tarafınca misal bir sızıntının önlenmesine yardımcı olacak adımlar atıyor.
Gerçek şu ki, mesele robotun manzaraları yayınlaması değil, yapay zeka eğitim sistemlerinin ve her şeydilk evvel her insanın mahremiyetinin sorgulanması. MIT Tech Review‘da yer alan habere bakılırsa, imgeler bir kişi tarafınca değil, iRobot şirketinin ürettiği Roomba J7 robot sürpürgenin geliştirme versiyonları tarafınca çekildi.
iRobot: Sorun yapay zekada değil, insan faktöründe
hemen sonrasında bu bilgiler, yapay zekayı eğitmek için kullanılan ses, fotoğraf ve görüntü datalarını etiketlemek üzere dünyanın dört bir yanından çalışanları işe alan bir startup olan Scale AI‘ye gönderildi. Oradan da her yere dağıldı.
MIT Technology Review, sosyal medya gruplarına gönderilmiş olan bu özel fotoğrafların 15 ekran görüntüsünü ele geçirdi. Bilhassa bir karede, lavanta rengi tişört giymiş genç bir bayanın tuvalette oturduğu görülüyor.
Bir öteki imajda, sekiz ya da dokuz yaşlarında olduğu anlaşılan ve yüzü açıkça görülebilen bir çocuk, koridorun zeminine yüzüstü yatmış durumda. Başka çekimler dünyanın dört bir yanındaki evlerden, kimilerinde insanların, kimilerinde ise bir köpeğin yaşadığı odaları gösteriyor.
Yakın vakitte Amazon tarafınca 1,7 milyar dolara satın alınan iRobot mevzuyla ilgili yaptığı açıklamalarda, bu imgelerin 2020 yılında Roomba tarafınca çekildiğini doğruladı. Şirkete nazaran sorun Robotun kendisinde değil, akıllı süpürgeler için kullanılan algoritmanın eğitiminden sorumlu olan insan faktöründeydi.
Sızıntı hakkında soruşturma başlatıldı
iRobot’a göre, aygıtlar “video kaydı devam ediyor” yazan parlak yeşil bir etiketle etiketlenmişti ve test edilmesi maksadıyla çalışanlarına dağıtılmıştı. Öbür bir deyişle, şirketin açıklamalarına nazaran, fotoğrafları yahut videoları ortaya saçılan herkes, Roomba’larının onları izlemesine müsaade vermişti.
iRobot’a göre bu asla gerçekleşmemeliydi. Şirket, imgeleri sızdıran hizmet sağlayıcıyla ilişkisini sonlandırdı, mevzuyu etkin bir biçimde araştırıyor ve MIT Tech Review’a bildirdiği üzere, gelecekte herhangi bir hizmet sağlayıcı tarafınca misal bir sızıntının önlenmesine yardımcı olacak adımlar atıyor.