Aprendizado positivo-não rotulado, frequentemente abreviado como aprendizado PU, é um subcampo do aprendizado de máquina que aborda a classificação binária quando apenas exemplos positivos e dados não rotulados estão disponíveis. Diferentemente do aprendizado supervisionado padrão, que exige instâncias rotuladas positivas e negativas, o aprendizado PU opera sob a restrição de que exemplos negativos estão ausentes ou não são explicitamente identificados. Esse cenário surge em muitas aplicações reais onde obter rótulos negativos confiáveis é difícil, caro ou impraticável. O objetivo é construir um classificador que possa distinguir entre instâncias positivas e negativas, apesar da falta de dados de treinamento negativos explícitos.
O problema formal foi articulado pela primeira vez no início dos anos 2000, com trabalhos fundacionais de Bing Liu e colegas da Universidade de Illinois em Chicago. Seu artigo de 2002 introduziu o conceito de aprendizado a partir de exemplos positivos e não rotulados, propondo algoritmos que tratam os dados não rotulados como uma mistura de instâncias positivas e negativas. Desde então, o aprendizado PU tornou-se uma ferramenta importante em domínios como recuperação de informação, bioinformática e detecção de fraudes, onde rótulos negativos são frequentemente ambíguos ou incompletos.
Formulação do Problema
Em uma tarefa padrão de classificação binária, um conjunto de treinamento consiste em pares rotulados (x, y) onde y ∈ {+1, -1}. No aprendizado PU, o conjunto de treinamento é dividido em dois subconjuntos: um conjunto de exemplos positivos P, onde todas as instâncias são conhecidas como positivas, e um conjunto de exemplos não rotulados U, que pode conter tanto instâncias positivas quanto negativas. O desafio principal é que o conjunto não rotulado é uma mistura, e a proporção de instâncias positivas em U é desconhecida. Isso torna o problema de aprendizado fundamentalmente diferente do aprendizado supervisionado padrão, pois a ausência de rótulos negativos introduz um viés que precisa ser corrigido.
Uma suposição comum no aprendizado PU é que o conjunto positivo rotulado é uma amostra aleatória da distribuição positiva verdadeira, frequentemente referida como suposição "selecionado completamente ao acaso" (SCAR, do inglês selected completely at random). Sob essa suposição, a probabilidade de uma instância positiva ser rotulada é constante e independente de suas características. Isso permite o desenvolvimento de estimadores não enviesados do risco de classificação, que podem ser otimizados usando técnicas da teoria de aprendizado estatístico.
Abordagens e Algoritmos
Várias famílias de algoritmos foram desenvolvidas para lidar com o aprendizado PU. Uma abordagem inicial é a estratégia de duas etapas, que primeiro identifica exemplos negativos confiáveis a partir do conjunto não rotulado usando uma heurística e, em seguida, treina um classificador padrão com os exemplos positivos e os negativos confiáveis. Esse método, popularizado por Liu e seus colaboradores, frequentemente usa uma técnica de "espião" ou um critério baseado em distância para selecionar negativos prováveis. No entanto, esses métodos podem ser sensíveis à qualidade da seleção inicial de negativos.
Uma abordagem mais fundamentada é baseada no aprendizado enviesado, onde os dados não rotulados são tratados como exemplos negativos ruidosos. O classificador é treinado para minimizar uma função de perda ponderada que leva em conta o fato de que algumas instâncias não rotuladas são, na verdade, positivas. Isso pode ser formulado como um problema de aprendizado sensível ao custo, onde o custo de classificar erroneamente uma instância positiva no conjunto não rotulado é ajustado com base na probabilidade anterior estimada de positivos.
Nos últimos anos, métodos de aprendizado profundo foram aplicados ao aprendizado PU, particularmente usando redes neurais. Um desenvolvimento notável é o estimador de risco não enviesado proposto por du Plessis, Niu e Sugiyama em 2014, que fornece uma maneira teoricamente fundamentada de treinar classificadores sem rótulos negativos. Esse estimador foi estendido para lidar com funções de perda não convexas e mostrou-se eficaz em configurações de alta dimensão, como classificação de imagens e texto.
Aplicações
O aprendizado PU encontrou uso generalizado em domínios onde rótulos negativos são escassos ou não confiáveis. Na recuperação de informação, é usado para classificação de documentos e filtragem de spam, onde apenas um pequeno conjunto de documentos relevantes é conhecido e o restante é não rotulado. Na bioinformática, o aprendizado PU é aplicado para prever interações proteína-proteína e funções gênicas, onde interações positivas confirmadas experimentalmente estão disponíveis, mas interações negativas raramente são verificadas.
Outra aplicação significativa está na detecção de fraudes e detecção de anomalias. Por exemplo, na detecção de fraudes em cartões de crédito, transações rotuladas como fraudulentas são raras e frequentemente incompletas, enquanto a grande maioria das transações é não rotulada. O aprendizado PU permite que modelos sejam treinados com casos confirmados de fraude e o grande conjunto de transações não rotuladas, melhorando as taxas de detecção sem exigir rotulagem exaustiva. Da mesma forma, no diagnóstico médico, o aprendizado PU pode ser usado para identificar pacientes com uma doença rara com base em um pequeno conjunto de casos confirmados e um grande conjunto de registros de pacientes não rotulados.
Desafios e Extensões
Apesar de sua utilidade, o aprendizado PU enfrenta vários desafios. A dificuldade principal é a estimativa da probabilidade anterior da classe, ou seja, a proporção de instâncias positivas no conjunto não rotulado. Uma estimativa incorreta pode levar a classificadores enviesados e desempenho ruim. Pesquisadores propuseram vários métodos para estimar essa probabilidade, incluindo técnicas de validação cruzada e correspondência de momentos, mas o problema permanece em aberto em muitas situações práticas.
Outro desafio é a presença de ruído nos rótulos do conjunto positivo. Em algumas aplicações, os exemplos positivos rotulados podem, eles próprios, estar incorretamente rotulados, o que pode degradar o desempenho dos algoritmos de aprendizado PU. Variantes robustas foram desenvolvidas para lidar com esse ruído, frequentemente incorporando suposições adicionais sobre o processo de geração de ruído.
As extensões do aprendizado PU incluem o aprendizado PU semissupervisionado, onde um pequeno número de rótulos negativos também está disponível, e o aprendizado PU com múltiplos conjuntos positivos, onde diferentes fontes de exemplos positivos podem ter distribuições distintas. Essas extensões visam relaxar as suposições estritas do cenário PU básico e melhorar a aplicabilidade a problemas do mundo real mais complexos.
Relação com Outros Paradigmas de Aprendizado
O aprendizado PU está intimamente relacionado a outros paradigmas de aprendizado fracamente supervisionado, como o aprendizado semissupervisionado e o aprendizado com rótulos ruidosos. No aprendizado semissupervisionado, tanto exemplos positivos quanto negativos rotulados estão disponíveis, juntamente com dados não rotulados, enquanto o aprendizado PU carece inteiramente de rótulos negativos. No aprendizado com rótulos ruidosos, o conjunto de treinamento contém rótulos positivos e negativos, mas alguns rótulos estão incorretos. O aprendizado PU pode ser visto como um caso extremo de aprendizado com rótulos ruidosos, onde todos os rótulos negativos estão ausentes e algumas instâncias não rotuladas são, na verdade, positivas.
A conexão com a classificação de uma classe também é notável. A classificação de uma classe visa modelar a distribuição da classe positiva e identificar outliers, o que é semelhante ao aprendizado PU quando se assume que o conjunto não rotulado contém principalmente negativos. No entanto, o aprendizado PU explicitamente leva em conta a presença de positivos no conjunto não rotulado, tornando-o mais geral.
Direções Futuras
À medida que a inteligência artificial continua a avançar, o aprendizado PU está sendo integrado a modelos mais complexos, incluindo modelos de linguagem de grande porte e arquiteturas baseadas em transformadores. Esses modelos podem aproveitar grandes quantidades de dados de texto não rotulados, e o aprendizado PU fornece uma estrutura para ajustá-los finamente com apenas um pequeno conjunto de exemplos positivos. Isso é particularmente relevante em domínios como análise de documentos legais e mineração de literatura científica, onde exemplos positivos são escassos, mas corpora não rotulados são vastos.
A pesquisa também está explorando o uso do aprendizado PU em aprendizado por reforço e aprendizado online, onde a distribuição dos dados pode mudar ao longo do tempo. Além disso, o desenvolvimento de garantias teóricas para o aprendizado PU sob várias suposições permanece uma área ativa de estudo, com o objetivo de fornecer métodos robustos e confiáveis para profissionais.