Qalqan секторы 10
Human & AI Cognitive Synergy
Жасанды интеллектіні әзірлеу, енгізу және пайдалану кезінде туындайтын тәуекелдерден адамды, бизнесті және цифрлық инфрақұрылымды қорғау: AI-агенттер, үлкен тілдік модельдер, автономды жүйелер, корпоративтік AI-сервистер және генеративті ЖИ.
Негізгі қауіптер
- AI-сервистер арқылы құпия деректердің таралуы
- Коммерциялық құпияны жария модельдерге беру
- Prompt Injection және AI-агенттерді манипуляциялау
- Автономды AI-агенттердің рұқсатсыз әрекеттері
- Модельдердің қате немесе ойдан шығарылған жауаптары
- Deepfake, дауысты клондау және синтетикалық тұлғалар
- AI-фишинг және автоматтандырылған әлеуметтік инженерия
- Модельдің деректері мен білімін алмастыру немесе улау
- Қауіпсіз емес бөгде модельдер мен AI-сервистерді пайдалану
- AI-агенттердің шектен тыс өкілеттіктері
- Қате автоматтандырылған шешімдер
- Құпиялылық пен дербес деректерді қорғауды бұзу
- Қызметкерлердің ЖИ-ді бақылаусыз пайдалануы — Shadow AI
- Ақпараттық жүйелерге жаңа AI-шабуылдар
- ЖИ-ді қолданудың беделдік, заңдық және операциялық тәуекелдері
Типтік міндеттер
- Ұйымның AI Security Audit-і
- Қызметкерлердің генеративті ЖИ-ді пайдалануын аудиттеу
- AI-агенттер мен олардың өкілеттіктерін аудиттеу
- ЖИ-ді қауіпсіз пайдаланудың корпоративтік саясатын әзірлеу
- AI-жүйелерге беруге рұқсат етілген және тыйым салынған деректерді жіктеу
- AI-жүйелердің Threat Modeling-і
- AI-шешімдерді енгізу алдында тексеру
- AI-модельдер мен AI-агенттердің Red Teaming-і
- Prompt Injection-ге төзімділікті тестілеу
- Сыни операциялар үшін Human-in-the-Loop баптау
- AI-агенттердің корпоративтік жүйелерге қолжетімділігін басқару
- AI-инциденттерге ден қою рәсімдерін әзірлеу
- Басшылар мен қызметкерлерді ЖИ-ді қауіпсіз пайдалануға үйрету
- AI-шешімдерді жеткізушілерді бағалау
- Жаңа AI-қауіптерді сараптамалық бағалау
Тағы қараңыз
Qalqan секторы
Ақпараттық қауіпсіздік
Цифрлық қауіптер: фишингтен ЖИ шабуылдарына дейін
Бөлімді ашуQalqan секторыКешенді техникалық қауіпсіздік
Қорғаныс көрінісін емес, нақты тәуекелді жабатын техника
Бөлімді ашуQalqan секторыПсихоэмоционалдық және ментальдық қауіпсіздік
Манипуляция мен психологиялық қысымға төзімділік
Бөлімді ашу