Segurança e Conformidade no Uso de IA

O entusiasmo em torno das aplicações da Inteligência Artificial Generativa nas contratações públicas não pode obscurecer os desafios críticos associados à segurança e à conformidade. O compartilhamento inadvertido de informações sensíveis em plataformas de IA, sem devida análise de segurança, pode gerar exposições indesejadas e comprometer a integridade dos processos administrativos.

A Lei Geral de Proteção de Dados (LGPD) estabelece diretrizes claras sobre a coleta, o uso e o compartilhamento de dados pessoais. Entretanto, a aplicabilidade desses princípios no contexto da utilização de IA ainda enfrenta lacunas práticas, sobretudo no que tange à contratação de soluções tecnológicas de terceiros.

Classificar as ferramentas de IA quanto ao nível de segurança pode auxiliar a avaliar o grau de aderência das soluções às exigências legais e éticas. Adicionalmente, recomenda-se cautela no input de dados sensíveis, treinamento crítico dos servidores públicos e utilização preferencial de ferramentas que ofereçam garantias contratuais explícitas sobre proteção de dados.

A conformidade não é apenas uma obrigação legal, mas um pilar fundamental para a preservação da credibilidade institucional e da confiança da sociedade. A utilização segura da IA deve ser encarada como parte estratégica das políticas de governança e de gestão de riscos da Administração Pública.

Deixe seu Comentário:  Quais práticas de segurança e compliance sua instituição já adota para garantir o uso ético e protegido da IA nas contratações públicas?