Suggestions
Matheus Bona
Infrastructure Specialist | Digital Products Leader
Who is Matheus Bona?
Matheus Bona is a technical consultant at Creative Softwares in Brazil. His LinkedIn username is matheusbona.1
Some key facts about Matheus Bona:
- He has experience in digital services development, multi-cloud solutions, and team leadership.1
- He recently achieved his AWS Certified Cloud Practitioner certification from Amazon Web Services.2
- He has also completed the GenAI Certification program and received a badge from Isovalent.45
- Isovalent has issued him certifications for Discovery: Platform Engineer and Cilium Gateway API.56
- There are over 10 professionals named Matheus Bona on LinkedIn, primarily based in Brazil.37
So in summary, Matheus Bona is a certified cloud and AI consultant working in the software industry in Brazil, with a focus on AWS and generative AI technologies.
Highlights
Gostaria de compartilhar que recebi uma nova certificação: Academy Accreditation - Databricks Lakehouse Fundamentals da empresa Databricks!
E aí, Bona na área, beleza ? Hoje quero compartilhar um assunto crucial para quem trabalha com aplicativos baseados em LLM (Large Language Models) e IA generativa. Sabemos que essas tecnologias estão revolucionando o mercado, mas também trazem desafios únicos de segurança, e por incrível que pareça ainda não tenho visto muitos hubs de tecnologia falando sobre esse tema de maneira clara e transparente. Estou escrevendo, neste momento, um artigo um pouco mais profundo sobre os pontos identificados pela OWASP foundation e nele meu objetivo é trazer alguns exemplos de como as vulnerabilidades podem ser exploradas ou dados do modelo serem passíveis a disrupção por usuários mal intencionados. Da lista OWASP Top 10 For Large Language Model Applications as vulnerabilidades que carregam maiores preocupações são:
- Prompt Exploitation
- IO Handling
- Training Poisoning
- Model DDoS
- Supply Chain Vulnerabilities
- Sensitive Information Disclosure
- Insecure Design
- Excessive Agency
- Overreliance
- Model theft
Nessa jornada já fica claro para mim (dentro das experiências dos nossos clientes e do cenário de aplicação tecnológica), que ainda temos uma longa caminhada a ser desenhada quanto a táticas operacionais (principalmente) relacionadas a monitoramento e controle dentro do segmento de negócios financeiros e corporativos, onde a aplicação dessas novas tecnologias precisa andar numa velocidade compatível em relação ao endurecimento das leis de tratamentos de dados pessoais e compartilhamento de informações entre plataformas de processamento com o devido aceite dos usuários.
Imagem: Créditos a OWASP Foundation (fonte: owasp.org)
#genai #security #vulnerabilities #secops #llm #generativeai #apps #development
