āļāļāļāđāļĢāļāļŦāļĨāļēāļĒāļāļāļāđāļāļĢāļāļīāļāļ§āđāļē “āļĢāļ°āļāļāļĢāļąāļāļĐāļēāļāļ§āļēāļĄāļāļĨāļāļāļ āļąāļĒāļāļĩāđāļĄāļĩāļāļĒāļđāđāđāļĨāđāļ§” āļāđāļēāļāļ°āļāļāđāļāļēāļāļĒāļđāđāļāļąāļ AI — āđāļāļĢāļēāļ°āļāđāļĄāļĩ patch, āļĄāļĩ asset inventory, āļĄāļĩ firewall āļāļĒāļđāđāđāļĨāđāļ§ āđāļāđāļ§āļąāļāļāļĩāđāļāļĨāļēāļĒāđāļāđāļāļ§āđāļē... AI āļāļ·āļāļŠāļąāļāļ§āđāļāļāļĨāļ°āļŠāļēāļĒāļāļąāļāļāļļāđāđāļĨāļĒāļāļĢāļąāļ
āđāļāļĢāļēāļ° AI āļāļĒāļēāļĒāļāļ·āđāļāļāļĩāđāđāļāļĄāļāļĩāļāļāļāđāļāļāļķāļ API, third-party, supply chain āđāļĨāļ°āļĒāļąāļāļĄāļĩāļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļāđāļŦāļĄāđāđāļāļāđāļāļāļēāļ°āļāļąāļ§ āđāļāđāļ model poisoning, prompt injection, data inference āļāļķāđāļāđāļĄāđāđāļāļĒāļāđāļāļāļĢāļąāļāļĄāļ·āļāđāļāđāļĨāļ legacy āļĄāļēāļāđāļāļ
āđāļĨāļ°āđāļĄāđāļ§āđāļēāļāļāļāđāļāļĢāļāļ°āļĨāļāļāļļāļāļāļąāļ AI āļāļĒāđāļēāļāļŦāļāļąāļ āđāļāđāđāļāļ·āļāļāļāļĢāļķāđāļ (46%) āļāļāļāđāļāļĢāļāļāļēāļĢ AI āļāļđāļāļŦāļĒāļļāļāļāļĨāļēāļāļāļąāļāļŦāļĢāļ·āļāđāļĄāđāđāļāļĒāđāļāđāđāļāļāļķāļ production āļāđāļ§āļĒāļāđāļģ — āļŠāđāļ§āļāđāļŦāļāđāđāļāļīāļāļāļēāļāļāļ§āļēāļĄāļĨāđāļĄāđāļŦāļĨāļ§āđāļāļāđāļēāļ governance, āļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļ, āļāđāļāļĄāļđāļĨāđāļĄāđāļŠāļ°āļāļēāļ āđāļĨāļ°āļāļēāļāļāļĩāļĄāļāļĩāđāđāļāđāļēāđāļ AI āļāļĢāļīāļ āđ
āļāđāļēāļ§āļāļĩāđāļāļķāļāđāļŠāļāļāļāļāļāļēāļāđāļŦāļĄāđ 5 āđāļāļāļāļĩāđ CISO āļāđāļāļāļāļĨāļēāļĒāļĢāđāļēāļāđāļāđāļ: “āļāļąāļāļāļāļŦāļĄāļēāļĒ, āļāļąāļāļ§āļīāđāļāļĢāļēāļ°āļŦāđ, āļāļĢāļđ, āļāļąāļāļ§āļīāļāļąāļĒ āđāļĨāļ°āļāļąāļāļŠāļĢāđāļēāļāļāļąāļāļāļĄāļīāļāļĢ”
â
5 āļāļąāđāļāļāļāļāļŠāļģāļāļąāļāļāļĩāđ CISO āļāđāļāļāļāļģāđāļāļ·āđāļāļĢāļąāļāļĐāļēāļāļ§āļēāļĄāļāļĨāļāļāļ āļąāļĒāļāļāļ AI:
â
1. āđāļĢāļīāđāļĄāļāļļāļāļāļĒāđāļēāļāļāđāļ§āļĒāđāļĄāđāļāļĨ AI Governance āļāļĩāđāđāļāđāļāđāļĢāļāđāļĨāļ°āļāļĢāļāļāļāļĨāļļāļĄ
• āļāđāļāļāļĄāļĩ alignment āļĢāļ°āļŦāļ§āđāļēāļāļāļĩāļĄāļāļļāļĢāļāļīāļ–āđāļāļāđāļāđāļĨāļĒāļĩāļ§āđāļē AI āļāļ°āđāļāđāļāļģāļāļ°āđāļĢ āđāļĨāļ°āđāļāđāļāļĒāđāļēāļāđāļĢ
• āļŠāļĢāđāļēāļ framework āļāļĩāđāļĢāļ§āļĄ ethics, compliance, transparency āđāļĨāļ° success metrics
• āđāļāđāđāļāļ§āļāļēāļāļāļēāļ NIST AI RMF, ISO/IEC 42001:2023, UNESCO AI Ethics, RISE āđāļĨāļ° CARE
â
2. āļāļąāļāļāļē “āļĄāļļāļĄāļĄāļāļāļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļāļāļāļ AI” āļāļĩāđāļāđāļāđāļāļ·āđāļāļāđāļĨāļ°āļĨāļķāļāļāļ§āđāļēāļĢāļ°āļāļāļāļāļāļī
• āļŠāļĢāđāļēāļ AI asset inventory, risk register, āđāļĨāļ° software bill of materials
• āļāļīāļāļāļēāļĄāļ āļąāļĒāļāļļāļāļāļēāļĄāđāļāļāļēāļ° AI āđāļāđāļ data leakage, model drift, prompt injection
• āđāļāđ MITRE ATLAS āđāļĨāļ°āļāļĢāļ§āļāļŠāļāļ vendor + third-party supply chain āļāļĒāđāļēāļāđāļāļĨāđāļāļīāļ
â
3. āļāļĒāļēāļĒāļāļīāļĒāļēāļĄ “data integrity” āđāļŦāđāļāļĢāļāļāļāļĨāļļāļĄāļāļķāļāđāļĄāđāļāļĨ AI āļāđāļ§āļĒ
• āđāļĄāđāđāļāđāđāļāđāļāđāļāļĄāļđāļĨāđāļĄāđāđāļāļāđāļāđāđāļ āđāļāđāļĢāļ§āļĄāļāļķāļ bias, fairness āđāļĨāļ° veracity
• āđāļāđāļāđāļāļĒāļĄāļĩāļāļĢāļāļĩ Amazon āđāļĨāļ° UK āđāļāđ AI āļāļĩāđāļāļĨāļēāļĒāđāļāđāļāļāļāļāļīāļāļēāļāđāļāļĻāđāļĨāļ°āļŠāļĩāļāļīāļ§
â
4. āļĒāļāļĢāļ°āļāļąāļ “AI literacy” āđāļŦāđāļāļąāđāļāļāļāļāđāļāļĢāđāļāđāļēāđāļāđāļĨāļ°āđāļāđāļāļēāļāļāļĒāđāļēāļāļāļĨāļāļāļ āļąāļĒ
• āđāļĢāļīāđāļĄāļāļēāļāļāļĩāļĄ Security → Dev → āļāđāļēāļĒāļāļļāļĢāļāļīāļ
• āļŠāļāļ OWASP Top 10 for LLMs, Google’s SAIF, CSA Secure AI
• End user āļāđāļāļāļĢāļđāđāđāļĢāļ·āđāļāļ misuse, data leak āđāļĨāļ° deepfake āļāđāļ§āļĒ
â
5. āļĄāļāļ AI Security āđāļāļ “āļāļđāđāļāđāļ§āļĒ” āđāļĄāđāđāļāđ “āļāļąāļāđāļāļĄāļąāļāļīāđāļāđāļĄāļāļąāđāļ”
• āđāļāđ AI āļāđāļ§āļĒ triage alert, āļāļąāļ log, āļ§āļīāđāļāļĢāļēāļ°āļŦāđ risk score āđāļāđāļĒāļąāļāļāđāļāļāļĄāļĩāļāļāļāļļāļĄ
• āļāļīāļāļēāļĢāļāļēāļāļđāđāđāļŦāđāļāļĢāļīāļāļēāļĢ AI Security āļāļĒāđāļēāļāļĢāļāļāļāļāļ āđāļāļĢāļēāļ°āļŦāļĨāļēāļĒāđāļāđāļēāđāļāđ “āđāļāļ°āļāđāļēāļĒ AI” āđāļāđāļĒāļąāļāđāļĄāđ mature
https://www.csoonline.com/article/4011384/the-cisos-5-step-guide-to-securing-ai-operations.html āļāļāļāđāļĢāļāļŦāļĨāļēāļĒāļāļāļāđāļāļĢāļāļīāļāļ§āđāļē “āļĢāļ°āļāļāļĢāļąāļāļĐāļēāļāļ§āļēāļĄāļāļĨāļāļāļ āļąāļĒāļāļĩāđāļĄāļĩāļāļĒāļđāđāđāļĨāđāļ§” āļāđāļēāļāļ°āļāļāđāļāļēāļāļĒāļđāđāļāļąāļ AI — āđāļāļĢāļēāļ°āļāđāļĄāļĩ patch, āļĄāļĩ asset inventory, āļĄāļĩ firewall āļāļĒāļđāđāđāļĨāđāļ§ āđāļāđāļ§āļąāļāļāļĩāđāļāļĨāļēāļĒāđāļāđāļāļ§āđāļē... AI āļāļ·āļāļŠāļąāļāļ§āđāļāļāļĨāļ°āļŠāļēāļĒāļāļąāļāļāļļāđāđāļĨāļĒāļāļĢāļąāļ
āđāļāļĢāļēāļ° AI āļāļĒāļēāļĒāļāļ·āđāļāļāļĩāđāđāļāļĄāļāļĩāļāļāļāđāļāļāļķāļ API, third-party, supply chain āđāļĨāļ°āļĒāļąāļāļĄāļĩāļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļāđāļŦāļĄāđāđāļāļāđāļāļāļēāļ°āļāļąāļ§ āđāļāđāļ model poisoning, prompt injection, data inference āļāļķāđāļāđāļĄāđāđāļāļĒāļāđāļāļāļĢāļąāļāļĄāļ·āļāđāļāđāļĨāļ legacy āļĄāļēāļāđāļāļ
āđāļĨāļ°āđāļĄāđāļ§āđāļēāļāļāļāđāļāļĢāļāļ°āļĨāļāļāļļāļāļāļąāļ AI āļāļĒāđāļēāļāļŦāļāļąāļ āđāļāđāđāļāļ·āļāļāļāļĢāļķāđāļ (46%) āļāļāļāđāļāļĢāļāļāļēāļĢ AI āļāļđāļāļŦāļĒāļļāļāļāļĨāļēāļāļāļąāļāļŦāļĢāļ·āļāđāļĄāđāđāļāļĒāđāļāđāđāļāļāļķāļ production āļāđāļ§āļĒāļāđāļģ — āļŠāđāļ§āļāđāļŦāļāđāđāļāļīāļāļāļēāļāļāļ§āļēāļĄāļĨāđāļĄāđāļŦāļĨāļ§āđāļāļāđāļēāļ governance, āļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļ, āļāđāļāļĄāļđāļĨāđāļĄāđāļŠāļ°āļāļēāļ āđāļĨāļ°āļāļēāļāļāļĩāļĄāļāļĩāđāđāļāđāļēāđāļ AI āļāļĢāļīāļ āđ
āļāđāļēāļ§āļāļĩāđāļāļķāļāđāļŠāļāļāļāļāļāļēāļāđāļŦāļĄāđ 5 āđāļāļāļāļĩāđ CISO āļāđāļāļāļāļĨāļēāļĒāļĢāđāļēāļāđāļāđāļ: “āļāļąāļāļāļāļŦāļĄāļēāļĒ, āļāļąāļāļ§āļīāđāļāļĢāļēāļ°āļŦāđ, āļāļĢāļđ, āļāļąāļāļ§āļīāļāļąāļĒ āđāļĨāļ°āļāļąāļāļŠāļĢāđāļēāļāļāļąāļāļāļĄāļīāļāļĢ”
â
5 āļāļąāđāļāļāļāļāļŠāļģāļāļąāļāļāļĩāđ CISO āļāđāļāļāļāļģāđāļāļ·āđāļāļĢāļąāļāļĐāļēāļāļ§āļēāļĄāļāļĨāļāļāļ āļąāļĒāļāļāļ AI:
â
1. āđāļĢāļīāđāļĄāļāļļāļāļāļĒāđāļēāļāļāđāļ§āļĒāđāļĄāđāļāļĨ AI Governance āļāļĩāđāđāļāđāļāđāļĢāļāđāļĨāļ°āļāļĢāļāļāļāļĨāļļāļĄ
• āļāđāļāļāļĄāļĩ alignment āļĢāļ°āļŦāļ§āđāļēāļāļāļĩāļĄāļāļļāļĢāļāļīāļ–āđāļāļāđāļāđāļĨāļĒāļĩāļ§āđāļē AI āļāļ°āđāļāđāļāļģāļāļ°āđāļĢ āđāļĨāļ°āđāļāđāļāļĒāđāļēāļāđāļĢ
• āļŠāļĢāđāļēāļ framework āļāļĩāđāļĢāļ§āļĄ ethics, compliance, transparency āđāļĨāļ° success metrics
• āđāļāđāđāļāļ§āļāļēāļāļāļēāļ NIST AI RMF, ISO/IEC 42001:2023, UNESCO AI Ethics, RISE āđāļĨāļ° CARE
â
2. āļāļąāļāļāļē “āļĄāļļāļĄāļĄāļāļāļāļ§āļēāļĄāđāļŠāļĩāđāļĒāļāļāļāļ AI” āļāļĩāđāļāđāļāđāļāļ·āđāļāļāđāļĨāļ°āļĨāļķāļāļāļ§āđāļēāļĢāļ°āļāļāļāļāļāļī
• āļŠāļĢāđāļēāļ AI asset inventory, risk register, āđāļĨāļ° software bill of materials
• āļāļīāļāļāļēāļĄāļ āļąāļĒāļāļļāļāļāļēāļĄāđāļāļāļēāļ° AI āđāļāđāļ data leakage, model drift, prompt injection
• āđāļāđ MITRE ATLAS āđāļĨāļ°āļāļĢāļ§āļāļŠāļāļ vendor + third-party supply chain āļāļĒāđāļēāļāđāļāļĨāđāļāļīāļ
â
3. āļāļĒāļēāļĒāļāļīāļĒāļēāļĄ “data integrity” āđāļŦāđāļāļĢāļāļāļāļĨāļļāļĄāļāļķāļāđāļĄāđāļāļĨ AI āļāđāļ§āļĒ
• āđāļĄāđāđāļāđāđāļāđāļāđāļāļĄāļđāļĨāđāļĄāđāđāļāļāđāļāđāđāļ āđāļāđāļĢāļ§āļĄāļāļķāļ bias, fairness āđāļĨāļ° veracity
• āđāļāđāļāđāļāļĒāļĄāļĩāļāļĢāļāļĩ Amazon āđāļĨāļ° UK āđāļāđ AI āļāļĩāđāļāļĨāļēāļĒāđāļāđāļāļāļāļāļīāļāļēāļāđāļāļĻāđāļĨāļ°āļŠāļĩāļāļīāļ§
â
4. āļĒāļāļĢāļ°āļāļąāļ “AI literacy” āđāļŦāđāļāļąāđāļāļāļāļāđāļāļĢāđāļāđāļēāđāļāđāļĨāļ°āđāļāđāļāļēāļāļāļĒāđāļēāļāļāļĨāļāļāļ āļąāļĒ
• āđāļĢāļīāđāļĄāļāļēāļāļāļĩāļĄ Security → Dev → āļāđāļēāļĒāļāļļāļĢāļāļīāļ
• āļŠāļāļ OWASP Top 10 for LLMs, Google’s SAIF, CSA Secure AI
• End user āļāđāļāļāļĢāļđāđāđāļĢāļ·āđāļāļ misuse, data leak āđāļĨāļ° deepfake āļāđāļ§āļĒ
â
5. āļĄāļāļ AI Security āđāļāļ “āļāļđāđāļāđāļ§āļĒ” āđāļĄāđāđāļāđ “āļāļąāļāđāļāļĄāļąāļāļīāđāļāđāļĄāļāļąāđāļ”
• āđāļāđ AI āļāđāļ§āļĒ triage alert, āļāļąāļ log, āļ§āļīāđāļāļĢāļēāļ°āļŦāđ risk score āđāļāđāļĒāļąāļāļāđāļāļāļĄāļĩāļāļāļāļļāļĄ
• āļāļīāļāļēāļĢāļāļēāļāļđāđāđāļŦāđāļāļĢāļīāļāļēāļĢ AI Security āļāļĒāđāļēāļāļĢāļāļāļāļāļ āđāļāļĢāļēāļ°āļŦāļĨāļēāļĒāđāļāđāļēāđāļāđ “āđāļāļ°āļāđāļēāļĒ AI” āđāļāđāļĒāļąāļāđāļĄāđ mature
https://www.csoonline.com/article/4011384/the-cisos-5-step-guide-to-securing-ai-operations.html