Depurar o Gemini Nano

Thomas Steiner

Publicado em: 28 de fevereiro de 2025

No Chrome, a IA integrada usa o Gemini Nano para realizar inferências em todas as APIs. Às vezes, o Gemini Nano pode retornar uma mensagem de erro ou não fornecer o resultado esperado. Você pode analisar as informações de depuração de todas as APIs de IA integradas que usam o Gemini Nano. Isso inclui a API Prompt, a API Summarizer, a API Writer e a API Rewriter.

1. Abra o Chrome e acesse chrome://on-device-internals.
2. Selecione Registros de eventos.
3. (Opcional) Clique em Despejar para baixar um arquivo JSON com todas as informações do evento.

Você pode registrar um bug para que possamos corrigir esse erro na nossa implementação.

Depurar a API Prompt

Por exemplo, na sessão a seguir, o usuário pediu palavras que rimam usando a API Prompt.

const session = await LanguageModel.create({
  systemPrompt: "You are an API endpoint that returns rhymes as JSON for an input word."
});

await session.prompt([
  { role: "user", content: "house" },  
  { role: "assistant", content: "{\"input\": \"house\", \"output\": \"mouse\"}" },
  { role: "user", content: "file"},  
]);

A resposta do modelo foi a seguinte, formatada para facilitar a leitura:

```json
[]
```

**Reasoning:**

The input you provided (empty arrays) is an empty list or array in JSON format.
When you try to find rhymes for an empty list, you're essentially looking for
words that rhyme with nothing.


Therefore, there are no rhymes to return. The JSON response will be an empty
array `[]`."

Por que o modelo não retornou uma mensagem JSON com uma palavra que rima, idealmente {"input": "file", "output": "pile"}? Embora a saída estruturada ainda não esteja implementada no momento da redação deste artigo, a resposta precisa de alguma forma realizar a tarefa de rima.

Para depurar esse erro, acesse chrome://on-device-internals/ e clique na guia Registros de eventos. O registro revela que o problema estava na interpretação do comando pelo modelo. Em vez de JSON, o modelo entendeu a entrada como uma string: [object Object],[object Object],[object Object].

Esta é a mensagem de depuração completa, formatada para facilitar a leitura:

Executing model with input context of 0 tokens:
<system>You are an API endpoint that returns rhymes as JSON for an input word.<end>
with string: <user>[object Object],[object Object],[object Object]<end> <model>

Adicionamos essas informações a um bug para o problema do modelo, A API de comandos parece executar toString() na entrada JSON, o que ajudou a equipe de engenharia a identificar o problema.

Compartilhar feedback

Compartilhe seu feedback de depuração enviando um relatório de bug.