Generative AI in Scientific Research: Opportunities, Challenges, and Ethical Implications
Generative AI in Scientific Research: Opportunities, Challenges, and Ethical Implications
Generative Artificial Intelligence (GenAI) has rapidly emerged as a transformative tool in scientific research. Large Language Models (LLMs) can produce human-like text and other content, offering new ways to generate ideas, review literature, formulate hypotheses, design studies, analyse data, and assist in scientific writing. These capabilities present significant opportunities to enhance creativity and efficiency across the research workflow. At the same time, the use of GenAI brings notable risks and challenges. Models often hallucinate incorrect information, reflect biases in training data, and raise concerns about academic integrity, privacy, and the potential deskilling or displacement of researchers. This paper provides a comprehensive yet concise overview of GenAI’s evolution and inner workings and examines its application in key stages of the scientific process. Each use-case is critically discussed, highlighting both the benefits and the pitfalls as reported in recent literature. A unified discussion of ethical and societal implications underscores the importance of responsible use, oversight, and policy in integrating GenAI into academia. The paper concludes by reflecting on prospects for GenAI in research and the need for guidelines that ensure these powerful tools are used to augment, not undermine, scientific integrity and progress.
Academic Responsibility; Generative AI; Large Language Models; Research Workflow.
António Lopes, Licenciado em Informática e Gestão de Empresas (2002, ISCTE), Mestre em Engenharia Informática e Telecomunicações (2006, ISCTE) e Doutor em Ciências e Tecnologias da Informação – ramo de Inteligência Artificial (2011, ISCTE-IUL), é atualmente o coordenador do Gabinete de Desenvolvimento de Sistemas de Informação do ISCTE-Instituto Universitário de Lisboa.
Lecionou diversas unidades curriculares de programação e sistemas de informação no Departamento de Ciências e Tecnologias de Informação do ISCTE ocasionalmente desde 2001 e com mais regularidade entre 2008 e 2013.
As suas atividades de investigação começaram em 2000 no laboratório de sistemas inteligentes da ADETTI onde participou em diversos projetos nacionais e internacionais até 2008. Atualmente, é investigador no IT-IUL (o grupo de investigação do Instituto de Telecomunicações do ISCTE-IUL) desde janeiro de 2009 onde desenvolve investigação na área da inteligência artificial aplicada.
É formador e palestrante na área de inteligência artificial, em particular nas sub-áreas de machine learning e IA generativa. É também o autor do podcast e newsletter Um sobre Zero, vencedor do prémio de Melhor Podcast de Ciência e Tecnologia em 2020, nos prémios PODES (o festival Português de podcasts).
Ver o artigo
