Pontos principais
- A Commvault aderiu à Open Secure AI Alliance para ajudar a promover abordagens abertas, seguras e colaborativas em relação à IA.
- As ferramentas de IA de código aberto proporcionam às organizações maior visibilidade e controle, permitindo que especialistas inspecionem, adaptem e fortaleçam os sistemas à medida que as ameaças e os requisitos evoluem.
- A segurança eficaz em IA vai além dos modelos, abrangendo identidade, permissões, proteções, registro de eventos, avaliação e o ambiente mais amplo no qual os agentes de IA operam.
- A colaboração entre setores e a pesquisa compartilhada podem ajudar as organizações a responder mais rapidamente aos desafios em constante mudança gerados por uma IA agente cada vez mais capaz.
- A Commvault compartilhará sua experiência em resiliência cibernética e dados com a Aliança, com base no princípio de que as organizações podem proteger melhor os sistemas e dados que compreendem plenamente.
A colaboração tem sido, há muito tempo, uma das formas mais eficazes pelas quais o setor de tecnologia enfrenta novos desafios. Os últimos meses trouxeram essa lição à tona de forma ainda mais nítida no contexto da IA. Os sistemas autônomos estão se tornando mais capazes, mais independentes e mais profundamente conectados à tecnologia que usamos todos os dias.
Eventos recentes também mostraram com que rapidez esse cenário pode mudar. Quando um sistema avançado de IA criou um desafio de segurança inesperado paraum Hugging Face, a organização utilizou um modelo de código aberto em sua própria infraestrutura para compreender e conter a situação. A experiência demonstrou o valor das ferramentas de IA de código aberto, que as organizações podem examinar, adaptar e controlar quando necessário.
Momentos como esse não devem diminuir nosso otimismo em relação à IA. Eles devem aprofundar nosso compromisso de moldar seu futuro juntos.
É por isso que a Commvault tem orgulho de se associar à OpenAliança para uma IA Segura, uma comunidade de organizações líderes que promovem o avanço da IA por meio de pesquisa aberta, conhecimento compartilhado e ferramentas práticas.
A IA continuará evoluindo, e nenhuma organização sozinha terá todas as respostas. Reunir profundo conhecimento especializado de todo o setor dá à comunidade uma chance maior de compreender o que está mudando e responder com a rapidez que esta nova era exige.
O código aberto é fundamental para esse esforço. Ele oferece aos especialistas a capacidade de examinar como os sistemas funcionam e aprimorar o que outros já começaram. Para os defensores, ele também proporciona algo essencial: a liberdade de escolher e adaptar a tecnologia certa para cada situação, em vez de depender de um único sistema ou fornecedor.
A NVIDIA descreve isso como uma base de defesa aberta, construída sobre modelos, estruturas e ferramentas que a comunidade pode estudar e fortalecer.
A Aliança também reconhece que a segurança da IA vai muito além do modelo. Identidade, permissões, proteções, registros e avaliação — tudo isso molda o comportamento de um agente. Compreender esse ambiente como um todo exigirá novas pesquisas e a disposição de compartilhar o que o setor aprender ao longo do caminho.
A perspectiva da Commvault baseia-se em anos de experiência na resolução de desafios complexos de resiliência cibernética — ajudando as organizações a compreender seus dados, mantê-los confiáveis e recuperá-los com segurança quando ocorrerem interrupções.
Grande parte desse trabalho se resume à mesma ideia que a Aliança vem buscando: só é possível proteger aquilo que se compreende plenamente. Essa é a experiência que esperamos compartilhar, juntamente com o entusiasmo de aprender com outras pessoas que enfrentam esses desafios sob diferentes perspectivas.
A oportunidade que se apresenta para a IA é enorme. Concretizá-la dependerá não apenas da rapidez com que a tecnologia avança, mas também do grau de abertura com que o setor trabalha em conjunto nesse processo. A Commvault tem o prazer de fazer parte desse trabalho e está animada para ajudar a construir o que está por vir. Leia
Leia o comunicado da NVIDIA aqui: Líderes fazer setores se unem à Open Secure AI Alliance.
Perguntas frequentes
P: O que é a Open Secure AI Alliance?
R:A Open Secure AI Alliance é uma comunidade de organizações que trabalham para promover a segurança da IA por meio de pesquisa aberta, compartilhamento de conhecimento, modelos, estruturas e ferramentas práticas. Sua abordagem colaborativa oferece aos participantes oportunidades de estudar desafios emergentes e fortalecer, em conjunto, as defesas contra ameaças à IA.
P: Por que a Commvault aderiu à Open Secure AI Alliance?
R:A Commvault aderiu à Aliança para contribuir com sua experiência em resiliência cibernética, compreensão de dados, confiança e Recovery. Isso também oferece à Commvault a oportunidade de aprender com outros líderes do setor que abordam a segurança da IA a partir de diferentes perspectivas.
P: Por que o código aberto é importante para a segurança da IA?
R:O código aberto permite que especialistas analisem como os sistemas de IA funcionam, aproveitem as tecnologias existentes e adaptem ferramentas a situações específicas de segurança. Ele também oferece aos defensores maior liberdade para selecionar e modificar tecnologias, em vez de depender de um único sistema ou fornecedor.
P: O que a segurança da IA envolve além da proteção do modelo?
R: A segurança da IA abrange o ambiente mais amplo no qual um sistema de IA opera, incluindo identidade, permissões, limites de segurança, registros e avaliação. Compreender esses elementos interligados pode ajudar as organizações a avaliar e gerenciar melhor o comportamento dos agentes de IA.
P: Como a experiência da Commvault em resiliência cibernética se relaciona com a segurança da IA?
R: O trabalho da Commvault na área de resiliência cibernética concentra-se em ajudar as organizações a compreender seus dados, manter sua confiabilidade e se recuperar com segurança após interrupções. Essa perspectiva se alinha naturalmente ao foco da Aliança em abordagens abertas e inspecionáveis para a segurança da IA.P: Por que a colaboração do setor é importante para o futuro da IA?
R:A IA está evoluindo de forma muito rápida e abrangente para que uma única organização tenha todas as respostas. Combinar conhecimento especializado, pesquisa e insights práticos de todo o setor pode ajudar a comunidade a compreender os desafios emergentes e a responder com a rapidez que o desenvolvimento da IA exige.
Alexander Coombesé vice-presidente adjunto (AVP) de Desenvolvimento de Parcerias Estratégicas na Commvault.
