Aprenda com quem faz

EBOOK

Tendências IA que vão

revolucionar o mercado
para profissionais de
tecnologia
Sumário

01.
Gestão de transparência na IA 5
Prevenção de Discriminação 7
Interpretabilidade de modelos de IA 8
Detecção de falhas e correção 9

02.
Machine Learning 10
Uso da IA Generativa no dia a dia 11
Análise preditiva 12
Detecção de padrões 13

03.
Governança e Ética 14
Legislação 15
Responsabilidade 16
Conscientização e educação 17
Introdução

A Inteligência Artificial não é exatamente algo tão recente. No

século passado, já existiam inovações tecnológicas baseadas em
algoritmos e na ideia de que máquinas podem ter
comportamento inteligentes, mas foi nas últimas décadas que
presenciamos avanços exponenciais que catapultaram a IA para
o centro das atenções.

A digitalização da sociedade fez com que as inteligências

artificiais deixassem de ser simplesmente pautas de filmes de
ficção científica e começaram a fazer parte do dia a dia de
pessoas comuns, que não têm nenhuma ligação direta com o
mercado da tecnologia.

Este fenômeno se deve a três fatores que aconteceram

simultaneamente:

1. A coleta de grandes volumes de dados;

2. Algoritmos avançados de machine learning;
3. Poder computacional sem precedentes permitindo que a
IA alcançasse feitos notáveis, desde a automação de
tarefas rotineiras até em áreas como diagnóstico médico,
reconhecimento de padrões e tradução automática.
Ao longo de 2023, certamente
você tentou usar o ChatGPT.

E agora, o que o futuro aguarda

para as inteligências artificiais?

A Revolução IA está
apenas começando,
e neste e-book iremos te mostrar algumas das
principais tendências para quem trabalha com
tecnologia na atualidade. Confira!
 Tendências IA que vão revolucionar o
mercado para profissionais de tecnologia

01.
Gestão de
transparência
na IA
5
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

Gestão de transparência na IA
Você confia totalmente nas inteligências artificiais? É inegável
que essas tecnologias têm demonstrado avanços notáveis em
várias áreas, desde assistentes virtuais até diagnósticos médicos.
No entanto, o entusiasmo por essas inovações deve ser
acompanhado por uma dose saudável de avaliação crítica.

É nesse cenário que a transparência no funcionamento dos

algoritmos é um ponto essencial, uma vez que modelos ambíguos
demonstram desconfiança, especialmente quando as decisões
impactam diretamente a vida das pessoas.

Quer um exemplo?

Em 2018, a Amazon desenvolveu um sistema de IA para

automatizar o processo de triagem de currículos de candidatos a
emprego. No entanto, ao longo do tempo, o algoritmo mostrou
viés de gênero, favorecendo candidatos do sexo masculino em
detrimento das candidatas do sexo feminino.

O problema estava relacionado ao conjunto de dados de

treinamento, que historicamente consistia em currículos
predominantemente masculinos, refletindo os padrões de
contratação anteriores da empresa. Como resultado, o algoritmo
aprendeu a associar características masculinas com desempenho
superior, o que perpetuou e amplificou o viés de gênero.

Segundo a Reuters, a Amazon abandonou o projeto após

identificar o viés e reconhecer as limitações do sistema. Esse
exemplo destaca a importância da gestão adequada durante todo
o ciclo de vida de um sistema de IA, incluindo a seleção de dados
de treinamento, o monitoramento contínuo e a correção de vieses.

6
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

Então, já parou para pensar o quão prejudicial poderia ser uma IA

sem gestão de transparência usada em áreas de saúde ou
financeira? A própria Organização Mundial de Saúde (OMS) já
revelou estar animada com o uso apropriado de tecnologias,
incluindo LLMs, para apoiar profissionais de saúde, mas também
recomendou muita cautela e demonstrou preocupação na forma
como esses sistemas podem ser adotados sem prejudicar o
paciente.

No geral, para obter transparência nas inteligências artificiais,

é preciso cuidar dos seguintes pontos:

Prevenção de Discriminação
Muitos sistemas de IA são treinados com grandes conjuntos de
dados, e se esses dados contiverem preconceitos, discriminações
ou desigualdades, o modelo de IA pode replicar e ampliar esses
vieses. A transparência permite identificar e abordar esses
problemas, ajudando a evitar a discriminação.

O caso da Amazon mostra um viés de gênero, mas os modelos

também podem replicar racismo, capacitismo, homofobia,
xenofobia ou outras ações ofensivas.

Outro exemplo é que em 2017, um usuário compartilhou um vídeo

no Facebook mostrando que o sistema automático de liberação
de sabonete em um banheiro público detectava a mão de uma
pessoa branca, mas mãos de pessoas negras não conseguiam
fazer com que o equipamento funcionasse.

7
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

Interpretabilidade de modelos de IA
Para tomar decisões informadas sobre como usar ou confiar em
um sistema de IA, é necessário entender como ele chegou a uma
determinada conclusão. Modelos de IA complexos, como redes
neurais profundas, podem ser caixas-pretas difíceis de
interpretar. A transparência ajuda a tornar esses processos mais
compreensíveis.

Mais do que isso, os usuários precisam ter clareza de que estão

sendo atendidos com sistemas de IA, assim como de uma razão
pela qual a tecnologia tomou uma decisão.

Fintechs estão apostando em algoritmos para gerar ou não

a concessão de empréstimos, criação de contas em banco, entre
outras ações do mercado financeiro. Ao receber uma negativa do
sistema, o usuário pode querer saber o porquê. Respostas
genéricas como “seu perfil não é compatível” ainda são
insatisfatórias e sistemas baseados em IA podem ser totalmente
inviabilizados por não oferecerem interpretabilidade adequada.

8
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

Detecção de falhas e correção

A transparência facilita a identificação de erros ou falhas em
modelos de IA. Quando as decisões são transparentes, os
desenvolvedores podem analisar e corrigir problemas mais
rapidamente, melhorando a robustez e a confiabilidade dos
sistemas.

Aliás, conhecer o funcionamento interno de uma Inteligência

Artificial permite atribuir responsabilidade quando algo dá
errado e em caso de decisões inadequadas e/ou
comportamento indesejado.

9
 Tendências IA que vão revolucionar o
mercado para profissionais de tecnologia

02.
Machine
Learning

10
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

Machine Learning
Aproveitar o machine learning para potencializar a experiência
dos profissionais e usuários envolve a aplicação inteligente dessa
tecnologia para melhorar processos, personalizar interações
e otimizar resultados.

É importante mencionar que os cientistas de dados devem

acompanhar o rápido avanço do mercado — e uma das melhores
formas de fazer com que isso aconteça é utilizando todo o
potencial do aprendizado da máquina.

Uso da IA Generativa no dia a dia

A integração de novas tecnologias, como o uso de ChatGPT para
otimizar processos, é fundamental para melhorar continuamente
a produção e agilizar atividades de trabalho. Um programador,
por exemplo, consegue gerar códigos para desenvolver sites e
aplicações de maneira rápida por meio de uma consulta com as
inteligências artificiais generativas.

O grande segredo está, na verdade, em saber fazer as perguntas

certas. Os chamados “prompts” para conversar com os chats
precisam ser bem elaborados para chegar à resposta ideal — e é
por isso que surge cada vez mais a necessidade de profissionais
que entendam o mecanismo por trás da ferramenta para pedir
exatamente da forma que a IA compreende.

11

6
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

Análise preditiva
Você costuma construir relatórios e previsões para os próximos
períodos com base em dados? Isso se torna muito mais fácil com
o machine learning. A análise preditiva é valiosa em diversas
indústrias e setores, pois permite que as organizações tomem
decisões mais informadas com base em dados históricos e atuais.

Algoritmos de machine learning, como regressão linear, árvores de

decisão, redes neurais e algoritmos de clustering irão ajudar nesse
tipo de ação. Esses algoritmos são treinados com dados históricos
e podem ser aplicados a novos dados para fazer previsões.

12
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

Detecção de padrões
A segurança no espaço digital é um dos temas de maior
importância da atualidade. Inclusive, segundo a Fortinet, empresa
de cibersegurança, o Brasil foi o segundo país que mais sofreu com
ataques cibernéticos em 2022: foram mais de 103 bilhões de
registros durante todo o ano.

É nesse cenário que entra o machine learning para detecção de

padrões, pois, ao encontrar anomalias, é possível descobrir se
ocorreu algum tipo de fraude ou ataque naquele sistema. Isso é
especialmente importante no monitoramento de dados pessoais
e financeiros.

Porém, a Inteligência Artificial voltada para esse tipo de atividade

também consegue ser aplicada, por exemplo, em sistemas
médicos. Isso ajuda o profissional a detectar exames que
apresentem algum tipo de situação incomum e, possivelmente,
sinais de doenças ou distúrbios em seus pacientes.

Inclusive, esse tipo de IA já vem sendo adotada há algum tempo

no setor da saúde para diagnósticos de exames de imagem. Por
exemplo, a ferramenta Aidoc consegue fazer a deteccção de
quadros considerados críticos em tomografias de tórax em até
15 minutos.

13
 Tendências IA que vão revolucionar o
mercado para profissionais de tecnologia

03.
Governança
e Ética

14
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

Governança e Ética
Os avanços tecnológicos são impressionantes e prometem
revolucionar de vez a relação que o ser humano tem com as
máquinas. Porém, é preciso tomar muito cuidado, enquanto
profissionais, no desenvolvimento de inteligências artificiais
para que elas não violem leis ou ultrapassem linhas da ética
e moral humana.

Legislação
Por enquanto a única lei aprovada que atua como base no Brasil
para inteligências artificiais é a Lei Geral de Proteção de Dados
(LGPD), que regulamenta normas para evitar o vazamento de
informações. Desta forma, os sistemas desenvolvidos devem
seguir com as conformidades e, de maneira alguma, utilizar os
dados a sua disposição para finalidades prejudiciais.

Porém, existem algumas propostas na Câmara de Deputados que

pretendem falar, especificamente, da ética. O Projeto de Lei
759/23, por exemplo, estabelece princípios como transparência,
segurança e proteção da privacidade e define diretrizes, incluindo
o estímulo à pesquisa, cooperação internacional e parcerias
público-privadas. O projeto proíbe o uso da IA em armas e exige
submissão a órgãos de controle, buscando garantir conformidade
com princípios éticos e legais, além de instituir um período
probatório para robôs e máquinas que utilizam IA.

Além disso, propõe a regulamentação do desenvolvimento e uso

da Inteligência Artificial pelo poder público e sociedade,
estabelecendo princípios, direitos, deveres e instrumentos de
governança, destacando a necessidade de fundamentar o seu uso
no respeito aos direitos humanos, valores democráticos,

15
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

igualdade, não discriminação, pluralidade e privacidade de

dados.

O projeto enfatiza a importância da transparência no uso e

funcionamento da IA, incluindo a implementação efetiva de
um código de ética.

Responsabilidade
Quando uma IA erra o diagnóstico do paciente e prejudica sua
saúde, de quem é a responsabilidade: do médico que confiou
totalmente no resultado e não deu seu olhar crítico, ou do
desenvolvedor do programa que não otimizou o algoritmo para
prever certas variáveis?

O senso ético se mostra essencial para compreender quem deve

ser o agente principal em caso de sistemas que não funcionem
— ou que apresentem resultados equivocados e não
condizentes.

Quando se trata de encontrar o responsável por falhas, pode

haver um foco crescente em garantir que os sistemas respeitem
direitos autorais, evitem discriminação e atendam a padrões
éticos, além de possuir monitoramento de falhas em situações
críticas que envolvem saúde ou finanças, por exemplo. Isso pode
incluir a necessidade de declarações de direitos e fontes sobre o
conteúdo gerado.

Para que isso aconteça, é essencial implementar auditorias para

analisar o sistema e corrigir erros já existentes ou em potencial.

16
XP Educação | Tendências IA que vão revolucionar o mercado para profissionais de tecnologia

Conscientização e educação
Espera-se que haja um aumento na educação e conscientização
sobre questões éticas relacionadas à IA, não apenas entre
reguladores e desenvolvedores, mas também entre usuários
finais e partes interessadas.

Isso é especialmente importante para inteligências artificiais de

acesso ao grande público para fins de entretenimento, como é o
caso da criação de imagens, vídeos e vozes. Enquanto muitos
utilizam essas ferramentas como forma de brincadeira, há quem
as utilize para criar imagens falsas e espalhar inverdades a partir
disso, ou aplicar golpes de identidade.

Por outro lado, também é preciso lembrar que questões

relacionadas a direitos autorais em conteúdo gerado por IA
podem levar a atualizações nas leis de propriedade intelectual
para abordar especificamente essas situações.

É preciso ter clareza sobre quem detém os direitos autorais em

casos de criação colaborativa entre humanos e IA e os
desenvolvedores precisam evitar que os dados usados para criar
imagens não estão protegidos.

17
 Tendências IA que vão revolucionar o
mercado para profissionais de tecnologia

Conheça a XP Educação
Somos uma aceleradora de carreiras onde o impossível é só o ponto
de partida para as realizações profissionais de todos os nossos
alunos. Como parte do ecossistema XP, nosso compromisso é o de
melhorar a vida das pessoas através de uma educação de qualidade
e que leve nossos alunos direto para a empregabilidade!

Afinal, aqui você aprende com quem faz e de forma integrada às

empresas. Unimos o ensino ao mercado e levamos toda a expertise
de especialistas para as salas de aula para formar profissionais
extraordinários.

Queremos transformar sua carreira com um ensino totalmente

inovador, disruptivo e único como você nunca viu antes, além de ser
100% conectado com o DNA da XP!

Para aprender mais sobre tecnologia, você pode acessar nossa

página de conteúdos gratuitos, onde você encontra as principais
novidades de diversas áreas do setor tech. Escolha a área que mais
te interessa!

Porém, se você já se sente pronto(a) para dar um passo a mais na

sua carreira profissional, clique aqui e conheça nossos cursos de
pós-graduação em tech.

18
 Aprenda com quem faz

Tendências IA que vão revolucionar o

mercado para profissionais de tecnologia

xpeducacao.com.br blog