В Северо-Казахстанской области стартовал
проект прокуратуры «Цифровой Страж Детства», направленный на выявление угроз и защиту несовершеннолетних в школьной среде. Система работает в реальном времени и передаёт сигналы о потенциальной агрессии в чат с участием администрации школы и прокуратуры.
Учащиеся могут круглосуточно и анонимно сообщать о случаях буллинга через QR-коды, размещённые в учебных заведениях. Это должно упростить фиксацию инцидентов и ускорить реакцию со стороны школы и надзорных органов.
Одним из компонентов проекта стала технология анализа мимики лица. Система фиксирует признаки повышенного стресса и передаёт информацию руководству школы для возможного вмешательства.
Также внедряется механизм ограничения доступа к запрещённым интернет-ресурсам. В рамках проекта подписан меморандум о взаимодействии с АО «Кселл» и другими мобильными операторами.
Эксперты Digital Rights Center Qazaqstan (DRCQ) подчёркивают, что при использовании подобных систем необходимо строго соблюдать законодательство о защите персональных данных, особенно в отношении детей.
Согласно Закону РК «О персональных данных и их защите», сбор и обработка биометрических данных несовершеннолетних требует чётко определённых целей и обязательного согласия родителей или законных представителей.
Отсутствие такого согласия делает сбор данных незаконным и нарушает права ребёнка и родителей. Также недопустимо использование технологий без прозрачного механизма контроля и ответственности.
Позиция DRCQ:
Использование алгоритмов, которые пытаются определять эмоциональное состояние человека по мимике, относится к чувствительной обработке персональных данных, поскольку затрагивает не только биометрические характеристики (изображение лица), но и предполагаемые психо-эмоциональные сведения.
Такие данные потенциально раскрывают информацию о здоровье, стрессе или поведении, что повышает риск ошибочных выводов, дискриминации и нарушения прав личности.
Казахстанское законодательство пока не содержит прямого требования о проведении оценки воздействия на защиту данных (аналог DPIA, применяемого в ЕС), однако принципы Закона «О персональных данных и их защите» обязывают операторов заранее анализировать риски, минимизировать объем собираемых сведений, обеспечивать прозрачность целей обработки и принимать адекватные технические и организационные меры.
К таким мерам относятся: шифрование и локальное хранение изображений, ограничение доступа и четкое определение ответственных лиц, регулярное тестирование алгоритмов на точность и отсутствие предвзятости, а также информирование родителей и учащихся с предоставлением права возражения или запроса разъяснений по результатам автоматизированных решений.
Вопросы хранения, доступа и удаления персональных данных должны быть урегулированы заранее. Ответственность за утечку или неправомерное использование информации должна быть чётко определена.
DRCQ призывает к открытому обсуждению подобных инициатив с участием родителей, педагогов, юристов и специалистов по цифровой безопасности. Защита детей не должна превращаться в тотальный контроль.
Учащиеся могут круглосуточно и анонимно сообщать о случаях буллинга через QR-коды, размещённые в учебных заведениях. Это должно упростить фиксацию инцидентов и ускорить реакцию со стороны школы и надзорных органов.
Одним из компонентов проекта стала технология анализа мимики лица. Система фиксирует признаки повышенного стресса и передаёт информацию руководству школы для возможного вмешательства.
Также внедряется механизм ограничения доступа к запрещённым интернет-ресурсам. В рамках проекта подписан меморандум о взаимодействии с АО «Кселл» и другими мобильными операторами.
Эксперты Digital Rights Center Qazaqstan (DRCQ) подчёркивают, что при использовании подобных систем необходимо строго соблюдать законодательство о защите персональных данных, особенно в отношении детей.
Согласно Закону РК «О персональных данных и их защите», сбор и обработка биометрических данных несовершеннолетних требует чётко определённых целей и обязательного согласия родителей или законных представителей.
Отсутствие такого согласия делает сбор данных незаконным и нарушает права ребёнка и родителей. Также недопустимо использование технологий без прозрачного механизма контроля и ответственности.
Позиция DRCQ:
Использование алгоритмов, которые пытаются определять эмоциональное состояние человека по мимике, относится к чувствительной обработке персональных данных, поскольку затрагивает не только биометрические характеристики (изображение лица), но и предполагаемые психо-эмоциональные сведения.
Такие данные потенциально раскрывают информацию о здоровье, стрессе или поведении, что повышает риск ошибочных выводов, дискриминации и нарушения прав личности.
Казахстанское законодательство пока не содержит прямого требования о проведении оценки воздействия на защиту данных (аналог DPIA, применяемого в ЕС), однако принципы Закона «О персональных данных и их защите» обязывают операторов заранее анализировать риски, минимизировать объем собираемых сведений, обеспечивать прозрачность целей обработки и принимать адекватные технические и организационные меры.
К таким мерам относятся: шифрование и локальное хранение изображений, ограничение доступа и четкое определение ответственных лиц, регулярное тестирование алгоритмов на точность и отсутствие предвзятости, а также информирование родителей и учащихся с предоставлением права возражения или запроса разъяснений по результатам автоматизированных решений.
Вопросы хранения, доступа и удаления персональных данных должны быть урегулированы заранее. Ответственность за утечку или неправомерное использование информации должна быть чётко определена.
DRCQ призывает к открытому обсуждению подобных инициатив с участием родителей, педагогов, юристов и специалистов по цифровой безопасности. Защита детей не должна превращаться в тотальный контроль.