Защита на данните при AI: сделката на CBP с Clearview и последиците
Поверителност на данните при AI: сделката на CBP с Clearview и какво означава тя
С неотдавнашния договор на U.S. Customs and Border Protection (CBP) за използване на технологията за разпознаване на лица на Clearview AI възникват ключови въпроси за поверителността на данните при AI. Споразумението дава достъп до над 60 милиарда изображения, извлечени (scraped) от уеба за тактическо таргетиране. В същото време остават неясноти около типовете изображения, които могат да се качват, дали в търсенията могат да попаднат и граждани на САЩ, както и какъв е срокът за съхранение на резултатите. По-долу разглеждаме как тези въпроси се превръщат в предизвикателства, свързани с поверителност, сигурност и управление на данните, както и практически стъпки за ограничаване на потенциалните вреди.
Какво реално обхваща сделката между CBP и Clearview AI
- Обхват на договора: Достъп за звеното за разузнаване на CBP (Intelligence Division) и National Targeting Center, с използване на милиарди публично достъпни изображения.
- Произход на изображенията: Над 60 милиарда изображения, извлечени от интернет.
- Проблеми с прозрачността: В договора липи ясни указания за правилата за качване на изображения, политиките за съхранение и дали търсенията могат да включват граждани на САЩ.
Как работи разпознаването на лица — ограничения на точността и рискове
- Резултати от тестване: Скорошни тестове на NIST подчертават ограниченията на системите за разпознаване на лица, особено в неконтролирана среда като гранични пунктове.
- Нива на грешки: В по-слабо контролирани условия се наблюдават по-високи нива на грешки, което прави критично важното контекстно и отговорно внедряване на тези решения.
Въпроси за поверителност, право и етика
- Биометрични съгласия: Създаването на биометрични шаблони от изображения, извлечени от уеба без изрично лично съгласие, поставя сериозни етични въпроси.
- Законодателен контрол: Текущи законодателни инициативи, като предложението на сенатор Markey, целят да адресират подобни рискове за поверителността.
Оперативни и сигурностни рискове
- Обработка на данни: Включва достъп от външни изпълнители, споразумения за поверителност (NDAs) и потенциална злоупотреба с чувствителни данни.
- Разширяване на обхвата (scope creep): Риск от разширяване на употребата на данните отвъд първоначално договорените цели, което увеличава опасенията за поверителност и сигурност.
Препоръки за управление и съответствие
- Мерки за прозрачност: Повече публично оповестяване и ограничаване на рутинното внедряване на подобни технологии.
- Технически защити: Използване на on-premise решения и диференциран достъп до системите и данните за минимизиране на риска.
Какво означава това за бизнеса и доставчиците
- Отговорности на доставчиците: Компаниите, които продават набори от данни, трябва да гарантират съответствие с регулаторните изисквания и високи етични стандарти, за да защитят поверителността.
- Оценки на риска за предприятията: Две ключови стъпки за организациите, които възприемат подобни решения, са провеждането на задълбочени оценки на риска и внедряване на надеждни механизми за защита на данните.
Научете повече за решенията за AI съответствие
За компании, които търсят практичен подход към сложните изисквания за AI съответствие и сигурно управление на данните, разгледайте Encorp.ai's AI Compliance Monitoring Tools. Инструментите се интегрират безпроблемно с вече използвани системи и осигуряват структуриран начин за поддържане на AI съответствие с GDPR. Вижте как можем да подкрепим конкретните нужди на вашата организация.
Encorp.ai последователно предлага иновативни решения, насочени към поддържане на стриктни стандарти за защита на данните в различни сектори, осигурявайки стабилни рамки за сигурност и регулаторно съответствие.
Заключение
Договорът на CBP с Clearview AI изважда на преден план значими въпроси около поверителността на данните при AI, които корпоративните и публичните организации трябва да адресират своевременно и стратегически. Прозрачното управление, ефективните стратегии за съответствие и отговорните практики за управление на данни са ключови за намаляване на нововъзникващите рискове, свързани с подобни технологии. Чрез спазване на добрите практики и нормативните изисквания организациите могат да укрепят позициите си по отношение на поверителността на данните, като в същото време използват пълноценно възможностите на AI.
Martin Kuvandzhiev
CEO and Founder of Encorp.io with expertise in AI and business transformation