Os desafios da Inteligência Artificial na cibersegurança e a importância da Qualidade

As tecnologias emergentes trazem novos desafios às organizações. O contexto atual face à transição digital está a alterar o modo funcionamento das instituições, nomeadamente através da relação com a sociedade da inteligência artificial (IA). A resposta a questões diárias de segurança de informação é uma realidade, devendo as mesmas serem garantidas através de mecanismos que satisfaçam as necessidades e expetativas das suas partes interessadas, como é o caso da certificação de maturidade digital e o selo de cibersegurança. Estas certificações permitem às entidades mitigar muitos dos riscos físicos e digitais a que estão expostos, contribuindo para o aumento da segurança da informação e sua proteção, aumentando o reconhecimento do seu compromisso com a segurança da informação e confiança das partes interessadas nas suas atividades. Por outro lado, a publicação internacional da ISO 42001 (primeira norma a nível mundial que fornece diretrizes abrangentes para a gestão de sistemas de IA nas organizações) padroniza as práticas de gestão de IA, uma vez que uniformiza o seu desenvolvimento e uso responsáveis, possibilitando a certificação. Esta norma realiza uma abordagem sobre os desafios colocados pela IA, incluindo as questões éticas. Neste sentido, este estudo tem como objetivo destacar a importância da Qualidade com os desafios da IA na cibersegurança.

Em conclusão existe a necessidade de garantir a segurança de informação face às necessidades e expetativas das partes interessadas, tendo a qualidade um papel importante na certificação de sistemas com tecnologias emergentes como é o caso da IA e maturidade digital para a cibersegurança

cibersegurança, inteligência artificial, qualidade, risco

David Marques is currently responsible for the quality office of a Polytechnic University. He taught quality in a higher education health school. His research interests are in the areas of quality management, internal audit, risk management and internal control.

Georgina Morais is currently Professor at the Management Department of the Coimbra Business School – Portugal. She works in internal auditing. Her research interests are in the areas of quality management, internal audit, internal control.

Sofia Félix is currently coordinator of a postgraduate degree in local management by Coimbra Business School – Portugal. She is responsible for the financial management in a Portuguese municipality. Her research interests are in the areas of quality management, internal audit, internal control.

Conselho da União Europeia (2024). Comunicado de imprensa de 21 de maio sobre Regulamento Inteligência Artificial da UE. Disponível em: https://www.consilium.europa.eu/pt/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/.

Conselho da União Europeia (2024). Regulamento Inteligência Artificial da UE. Disponível em: https://www.consilium.europa.eu/pt/policies/artificial-intelligence/#0.

Couceiro, B. (2021). Inteligência Artifical em Auditoria Interna: proposta de modelo de auditoria interna a projetos de inteligência artifical (Dissertação de Mestrado). Instituto Politécnico de Coimbra, Coimbra, Portugal.

Dini, P.; Elhanashi, A.; Begni, A.; Saponara, S.; Zheng, Q.; Gasmi, K. (2024). A. Sciences, and undefined 2023, “Overview on Intrusion Detection Systems Design Exploiting Machine Learning for Networking Cybersecurity,” Acedido a: 20 de fevereiro de 2024. [Online]. Disponível em: https://www.mdpi.com/2076-3417/13/13/7507.

Decreto-Lei n.º 65/2021, Presidência do Conselho de Ministros, de 30 de julho.

Diretiva (UE) 2022/2555, do Parlamento Europeu e do Conselho, de 14 de dezembro de 2022.

Hawdon, J.; Parti, K. & Dearden, T.E.; (2020). Cybercrime in America amid COVID-19: the Initial Results from a Natural Experiment. Am J Crim Just 45, 546–562. https://doi.org/10.1007/s12103-020-09534-4.

Howard, D. J. (2018). Development of the Cybersecurity Attitudes Scale and Modeling Cybersecurity Behavior and its Antecedents. University of South Florida, 86.

ISO/IEC 42001: 2023 (2023).  Information technology — Artificial intelligence — Management system. Disponível em: https://www.iso.org/standard/81230.html.

HTTPS://www.isms.online/iso-42001/.

HTTPS://www.itsecurity.pt/news/analysis/como-a-inteligencia-artificial-impacta-a-ciberseguranca

HTTPS://www.publico.pt/2024/06/18/tecnologia/noticia/unesco-alerta-inteligencia-artificial-gerar-erros-holocausto-2094356.

Kaur, R.; Gabrijelčič, D. and Klobučar, T. (2023). Artificial intelligence for cybersecurity: Literature review and future research directions, Inf. Fusion, vol. 97, p. 101804, Sep. 2023, doi: 10.1016/J.INFFUS.2023.101804.

Kissinger, H.; Schmidt, E.; Huttenlocher, D. (2021). A Era da Inteligência Artifical. Dom Quixote. ISBN: 978-972-20-7340-0.

Markevych, M.; and Dawson, M. (2023). A Review of Enhancing Intrusion Detection Systems for Cybersecurity Using Artificial Intelligence (AI), Int. Conf. KNOWLEDGE-BASED Organ., vol. 29, p. 2023, Jul. 2023, doi: 10.2478/kbo-2023-0072.

Miguel A. (2024). Risco empresarial e Cibersegurança, editoria FCA. Lisboa.

Parlamento europeu (2020). Inteligência artificial: oportunidades e desafios. Disponível em: https://www.europarl.europa.eu/topics/pt/article/20200918STO87404/inteligencia-artificial-oportunidades-e-desafios.

UNESCO (2022). Recommendation on the Ethics of Artificial Intelligence. Publicado em 2022 pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO). Disponível em: http://unesco.org/open-access/terms-use-ccbyncsa-en.

União Europeia (2022). Conferência sobre o Futuro da Europa. Relatório sobre o resultado final. ISBN 978-92-824-8730-3 doi:10.2860/331020.

Singh, A. and Gupta, B. B. (2022). Distributed Denial-of-Service (DDoS) Attacks and Defense Mechanisms in Various Web- Enabled Computing Platforms: Issues, Challenges, and Future Research Directions, Int. J. Semant. Web Inf. Syst., vol. 18, no. 1, doi: 10.4018/IJSWIS.297143.

Tribunal de Contas Europeu (2024). Relatório Especial do TCE “Ambições da UE para a inteligência artificial – Melhor governação, investir mais e com mais orientação: as chaves do futuro”.

Urbinati, A.; Chiaroni, D.; Chiesa, V. and F. Frattini (2018). The Role of Digital Technologies in Open Innovation Processes: An Exploratory Multiple Case Study Analysis, R D Manag, doi: 10.1111/radm.12313.

Veale, M.; & Brown, I. (2020). Cybersecurity. Internet Policy Review. Journal on Internet regulation. https://doi.org/10.14763/2020.4.1533.