Tornar dispositivos IoT mais inteligentes: machine learning na borda

EML (Embedded Machine Learning) e Tiny machine learning (TinyML) são semelhantes, pois ambos envolvem a implementação de modelos de Machine Learning em dispositivos pequenos e com recursos limitados, como smartphones ou dispositivos IoT, em vez de servidores potentes ou na nuvem. No entanto, os termos podem ser usados de maneira ligeiramente diferente dependendo do contexto. Tiny ML geralmente se refere ao uso de ML em dispositivos muito pequenos e de baixa potência, como microcontroladores, enquanto EML se refere à implementação de modelos de ML em dispositivos localizados na "borda" de uma rede, mais próximos à fonte de dados, como microcontroladores.

As aplicações industriais e de manufatura, as cidades inteligentes e as aplicações do consumidor estão impulsionando a demanda por EML. Trazer algoritmos de aprendizado para milhões de dispositivos pequenos e de baixa potência na borda abre possibilidades infinitas para inteligência e informações valiosas. Cada dispositivo EML está ciente do contexto e entende o ambiente em que está, o que significa que abordagens personalizadas e otimizadas podem ser realizadas em relação à manutenção preditiva ou iniciativas de saúde personalizadas, por exemplo.

A análise no dispositivo permite que os dispositivos de borda processem dados sem ter que enviá-los para a nuvem, o que pode resultar em latência significativa na rede. Isso torna o EML uma ótima opção para suportar ambientes em tempo real, como monitoramento de colheitas e linhas de produção.

Manter os dados na borda também reduz o risco de violações de dados, uma vez que os dados não precisam ser transferidos e armazenados em servidores em nuvem. Isso é importante em áreas onde dados sensíveis estão sendo usados, como na área da saúde. Além disso, o EML também tem uma pegada de carbono muito menor do que a oferecida pela IA em nuvem, o que o torna uma opção mais sustentável.

"O ML procura por semelhanças em grandes quantidades de dados; isso requer poder de processamento caro. O machine learning na borda inverte isso. Ele começa na fonte de dados e pode aprender com os processos a partir dos dados que vê", explica Anders Alneng, co-fundador e vice-presidente de vendas da Ekkono Solutions, pioneira em software de aprendizagem de máquina na borda.

Colocando a IA na borda

A ABI Research prevê que 2,5 bilhões de dispositivos serão lançados com o TinyML em 2030, impulsionados pelo foco crescente em baixa latência, automação avançada e disponibilidade de chipsets de IA de baixo custo e ultra eficientes em termos de energia.

"Como a IA é implementada para tomar decisões críticas imediatas, como inspeção de qualidade, vigilância e gerenciamento de alarmes, qualquer latência dentro do sistema pode resultar em parada ou desaceleração da máquina, causando danos pesados ou perda de produtividade. Mover a IA para a borda mitiga vulnerabilidades e riscos potenciais, como conectividade pouco confiável e respostas atrasadas", explica Lian Jye Su, analista principal da ABI Research.

“Tudo está se conectando. Mas o mais importante é que esta é a primeira vez que os fabricantes podem manter relacionamentos com seus produtos quando eles saem da fábrica. Isso requer automação, e automação de IoT é igual a EML”, acrescenta Alneng da Ekkono. “Agora você pode melhorar as máquinas quando elas saem da fábrica e aprender com seu ambiente de produção. Isso suporta manutenção e otimização, mas o efeito também é enorme em relação à sustentabilidade. Há menos desgaste no produto e ele pode ser mais eficiente em termos de energia - e você pode fazer personalização individualizada por máquina, levando à personalização em massa. Isso não era possível antes."

EML não é a resposta para todos os problemas, no entanto. EML não é a abordagem ideal, por exemplo, quando você precisa de muita memória para processar uma grande quantidade de dados, como no processamento de linguagem natural ou imagens refinadas. "Aqui, o machine learning tradicional na nuvem é uma solução melhor", explica Kasra Mohaghegh, Engenheiro de Dados da Orange Business, "Mas o EML tem seu lugar em muitos casos que requerem interações em tempo real de baixa latência".

EML em ação

Recentemente, a Ekkono utilizou a aprendizagem federada para ajudar uma empresa de manufatura a adotar mudanças contínuas de eficiência para os trocadores de calor de um cliente.

As placas nos trocadores de calor ficam sujas e precisam de manutenção, variando de algumas semanas a anos, dependendo dos líquidos utilizados. A empresa estava achando impossível planejar as agendas de manutenção sem ter uma compreensão precisa dos modelos de sujeira.

A Ekkono usou sensores virtuais para medir dados de sensores físicos e criar uma estimativa de sujeira do componente. Isso permitiu monitoramento contínuo das condições, prevenindo paradas de produção não planejadas e agendando manutenção planejada para o fabricante.

O treinamento padrão em lotes requer uma grande quantidade de dados históricos, e muitas vezes não há dados de falha suficientes para suportar modelos de machine learning. Ao usar a aprendizagem incremental, essa solução não precisa de dados históricos para aprender. Em vez disso, ela utiliza dados em tempo real para obter insights precisos. Qualquer desvio do estado normal indica que algo mudou no dispositivo.

O próximo passo é o federate learning

A aprendizagem federada ou federate learning (FL) é uma parte do machine learning que está recebendo muita atenção. Ela permite que modelos de IA compartilhados sejam treinados de forma colaborativa em dados descentralizados na borda, sem compartilhá-los ou colocá-los em um local central. O modelo é aprimorado iterativamente.

"Esta abordagem permite a criação de um modelo geral a partir de todas as características dos pequenos modelos", explica Mohaghegh. As aplicações potenciais incluem veículos autônomos e dispositivos vestíveis. A aprendizagem federada também é de interesse específico para organizações governamentais, fintechs e multinacionais que desejam manter a propriedade dos dados.

"À medida que as transformações digitais continuam impulsionando iniciativas de AI/ML, as empresas precisarão treinar modelos robustos e performáticos em várias localizações sem mover os dados", explica Ritu Jyoti, vice-presidente do grupo de pesquisa em IA e Automação da IDC. "Espera-se que a aprendizagem federada faça progressos significativos e transforme os resultados dos negócios corporativos de maneira responsável."

Uma fonte de dados completamente nova

A beleza do EML é que é possível desenvolver modelos de machine learning em uma série de dispositivos embarcados, desde sistemas embarcados móveis até microcontroladores.

O treino na borda requer menos dados e menos banda. Cada dispositivo muda de simplesmente conectado para smart, abrindo o potencial para utilizar novas fontes de dados e fornecer aprendizagem individualizada. "É como ter um personal trainer e um médico com você o tempo todo, otimizando e entendendo continuamente a saúde de cada máquina", diz Ahneng.

Para saber mais sobre EML e seu potencial, ouça o webinar da Orange Business: Tornando dispositivos IoT mais inteligentes - a próxima fronteira para machine learning na borda.