Жаңыртуу: Apple серверди экинчи текшерүүнү айтып өттү, ал эми компьютердик көрүү боюнча кесипкөй компания муну төмөндөгү “Экинчи текшерүү кандай иштеши мүмкүн” деген бөлүмдө сүрөттөп берүү мүмкүнчүлүгүн айтып берди.
Иштеп чыгуучулар анын тескери инженерияланган бөлүктөрүн жасагандан кийин, Apple CSAM тутумунун алгачкы версиясы күнөөсүз сүрөттү белгилөө үчүн натыйжалуу алданган.Бирок, Apple муну реалдуу жашоодо болтурбоо үчүн кошумча коргоо чаралары бар экенин билдирди.
Акыркы иштеп чыгуу NeuralHash алгоритми GitHub ачык булак иштеп чыгуучу веб-сайтында жарыялангандан кийин болду, каалаган адам аны менен эксперимент кыла алат ...
Бардык CSAM системалары дайынсыз жоголгон жана эксплуатацияланган балдардын улуттук борбору (NCMEC) сыяктуу уюмдардан белгилүү балдарга сексуалдык зомбулук материалдарынын маалымат базасын импорттоо менен иштейт.Маалыматтар базасы сүрөттөрдөн хэштер же санарип манжа издери түрүндө берилет.
Көпчүлүк технология гиганттары булуттан жүктөлгөн сүрөттөрдү сканерлесе да, Apple сакталган сүрөттүн хэш маанисин түзүү үчүн кардардын iPhone'унда NeuralHash алгоритмин колдонот, андан кийин аны CSAM хэш маанисинин жүктөлүп алынган көчүрмөсү менен салыштырат.
Кечээ, бир иштеп чыгуучу Apple алгоритмин тескери инженерия кылып, GitHub кодун чыгарды деп ырастады - бул доомат Apple тарабынан иш жүзүндө тастыкталды.
GitHib чыгарылгандан кийин бир нече сааттын ичинде изилдөөчүлөр алгоритмди ийгиликтүү колдонуп, атайылап жалган позитивдүү - бир эле хэш маанисин жараткан такыр башка эки сүрөттү түзүштү.Бул кагылышуу деп аталат.
Мындай системалар үчүн ар дайым кагылышуу коркунучу бар, анткени хэш, албетте, сүрөттөлүштүн абдан жөнөкөйлөштүрүлгөн көрүнүшү, бирок кимдир бирөө сүрөттү ушунчалык тез жаратышы таң калыштуу.
Бул жерде атайылап кагылышуу жөн гана түшүнүктүн далили.Иштеп чыгуучулардын CSAM хэш маалыматтар базасына кирүү мүмкүнчүлүгү жок, бул реалдуу убакыт тутумунда жалган позитивдерди түзүүнү талап кылат, бирок бул кагылышуу чабуулдары салыштырмалуу жеңил экенин далилдейт.
Apple натыйжалуу алгоритм өз системасынын негизи экенин тастыктады, бирок бул акыркы версия эмес экенин билдирди.Компания ошондой эле аны эч качан жашыруун сактоого ниети жок экенин билдирди.
Apple электрондук катында Motherboard'га GitHub'та колдонуучу талдаган версия iCloud Photo CSAM аныктоо үчүн колдонулган акыркы версия эмес, жалпы версия экенин айтты.Apple алгоритмин да ачып бергенин айтты.
"NeuralHash алгоритми [...] кол коюлган операциялык системанын кодунун бир бөлүгү [жана] коопсуздук изилдөөчүлөрү анын жүрүм-туруму сүрөттөлүшкө ылайык келерин текшере алышат", — деп жазган Apple документи.
Компания дагы эки кадам бар экенин айтты: өзүнүн серверинде экинчилик (жашыруун) дал келүүчү системаны иштетүү жана кол менен карап чыгуу.
Apple ошондой эле колдонуучулар 30 матчтык босогодон өткөндөн кийин Apple серверлеринде иштеген экинчи жалпыга ачык эмес алгоритм жыйынтыктарды текшере турганын билдирди.
"Бул көз карандысыз хэш ката NeuralHash CSAM эмес сүрөттөрдүн атаандаштык кийлигишүүсүнөн улам түзмөктөгү шифрленген CSAM маалымат базасына дал келүү жана дал келген босогодон ашып кетүү мүмкүнчүлүгүн четке кагуу үчүн тандалган."
Roboflow компаниясынан Брэд Дуйер кагылышуу чабуулу үчүн концепциянын далили катары жарыяланган эки сүрөттү оңой айырмалоонун жолун тапты.
Мага бул сүрөттөр окшош, бирок башка OpenAI нейрондук өзгөчөлүгү экстракторунун CLIPде кандайча көрүнөрү кызык.CLIP NeuralHash сыяктуу иштейт;ал сүрөттү алат жана сүрөттөлүштүн мазмунуна туура келген өзгөчөлүк векторлорунун топтомун түзүү үчүн нейрон тармагын колдонот.
Бирок OpenAI тармагы башкача.Бул сүрөттөр менен текстти картага ала турган жалпы модель.Бул биз аны адам түшүнө турган сүрөт маалыматын алуу үчүн колдоно алабыз дегенди билдирет.
Жогорудагы эки кагылышуунун сүрөттөрүн CLIP аркылуу чуркадым, ал да алданып калганбы.Кыска жооп: жок.Бул Apple табылган CSAM сүрөттөрүнө алардын чыныгы же жасалма экенин аныктоо үчүн экинчи өзгөчөлүк чыгаруучу тармагын (мисалы, CLIP) колдоно алышы керек дегенди билдирет.Бир эле учурда эки тармакты алдаган сүрөттөрдү түзүү алда канча кыйын.
Акыр-аягы, мурда айтылгандай, сүрөттөр кол менен CSAM экенин ырастоо үчүн каралат.
Коопсуздук боюнча изилдөөчүнүн айтымында, бирден-бир реалдуу коркунуч - бул Apple компаниясынын кыжырын келтиргиси келген адам адам сынчыларына жалган позитивдерди бере алат.
"Apple чындыгында бул системаны иштеп чыккан, андыктан хэш-функцияны жашыруун сактоонун кереги жок, анткени "CSAM эмес CSAM катары" сиз жасай турган жалгыз нерсе - Apple'дин жооп берүү тобун кээ бир керексиз сүрөттөр менен тажатуу, алар жок кылуу үчүн чыпкаларды киргизмейинче. Анализ Куурдагы таштандылар жалган позитив болуп саналат ", - деди Николас Уивер, Калифорния университетинин Эл аралык компьютердик илим институтунун улук илимий кызматкери, Беркли, Motherboard онлайн чатта.
Купуялык - азыркы дүйнөдө тынчсыздануу күчөгөн маселе.Биздин көрсөтмөлөрдөгү купуялыкка, коопсуздукка ж.б. байланыштуу бардык отчетторду аткарыңыз.
Бен Лавжой британиялык техникалык жазуучу жана 9to5Mac үчүн ЕБ редактору.Ал ар тараптуу сын-пикирлерди алуу үчүн убакыттын өтүшү менен Apple өнүмдөрү менен болгон тажрыйбасын изилдеп, колонналары жана күндөлүк макалалары менен белгилүү.Ал романдарды да жазат, эки техникалык триллер, бир нече кыска илимий-фантастикалык фильмдер жана ром-ком!
Посттун убактысы: 20-август-2021