Amazi AI Gateway

Qué hace la puerta de enlace

Amazi AI Gateway brinda a las aplicaciones en un proyecto acceso administrado a OpenAI, Anthropic y DeepSeek. Está separado del catálogo externo de Integraciones: las conexiones de proveedores tienen su propia pestaña de proyecto, capacidad de plan, credenciales, catálogo de modelos y contabilidad de uso. Esta característica controla los servicios de IA utilizados por sus aplicaciones; no habilita ni deshabilita el agente Amazi en el chat del proyecto. El trabajo por chat aún requiere los permisos y créditos del proyecto correspondientes.

Abra Gateway en el proyecto y conéctelo cuando su rol y el plan del propietario del proyecto permitan la acción. Amazi habilita los proveedores disponibles, crea y almacena sus credenciales administradas y muestra los nombres de sus entornos. Seleccione un proveedor para inspeccionar sus credenciales, puntos finales y modelos. La desconexión elimina el acceso a Gateway y sus rutas de agentes de voz sin convertir a los proveedores en integraciones normales.

Utilice las pestañas centradas debajo del encabezado: Proveedores se abre primero y contiene las credenciales de los proveedores y los catálogos de modelos. Expanda Puntos finales disponibles arriba Modelos disponibles para ver las rutas HTTP admitidas por el proveedor seleccionado y cómo agregarlas a su URL base. Expanda Modelos disponibles para ver una tabla con nombres de modelos, identificadores API, categorías y descripciones. Cada pestaña tiene un bloque de información. SIP Realtime contiene agentes de voz OpenAI, sus direcciones en tiempo real y detalles SIP. Al cambiar de pestaña se conserva el proveedor seleccionado y el formulario de agente de voz sin terminar.

Si Gateway no se puede cargar, use Reintentar. Un error de carga no significa que Gateway haya sido deshabilitado para su cuenta; Las restricciones de planes y funciones tienen avisos separados.

Úselo desde el código del servidor

La sección Proveedores muestra OpenAI, Anthropic y DeepSeek antes de conectar Gateway. Una conexión habilita todos los proveedores disponibles, cada uno con su propia clave y URL base. Si ya tienes una conexión y aparecen nuevos proveedores, selecciona Habilitar proveedores para añadirlos sin cambiar las credenciales existentes.

Las credenciales Gateway son secretos del servidor:

• llamar al proveedor desde una aplicación de servicio o backend;
• utilice los nombres de entorno exactos que se muestran en Amazi;
• nunca copie una credencial en el chat, control de fuente, una variable del navegador o código de interfaz.

El agente recibe instrucciones y nombres de variables, no el valor secreto guardado.

Solicitudes ordinarias de HTTP

En el código backend, envíe solicitudes compatibles con el proveedor a la base inyectada URL y autentíquese con la clave inyectada como token de portador. Seleccione un modelo del catálogo de proveedores mostrado por Amazi. Enumera los nombres de los modelos, identificadores exactos de API, categorías y descripciones. La siguiente tabla de proveedores y modelos disponibles se carga desde el catálogo actual de Amazi. El agente puede inspeccionar los metadatos de los terminales, el formato y los precios al seleccionar un modelo para su aplicación.

Anthropic utiliza su formato nativo Mensajes; DeepSeek utiliza Finalizaciones de chat. Para ambos, se admiten respuestas y transmisión JSON. Sus conexiones Gateway proporcionan generación de texto, razonamiento y llamadas a herramientas. Verifique los formatos de entrada del modelo elegido antes de adjuntar imágenes.

Cada prefijo suministra _BASE_URL y _API_KEY. Con el SDK de Anthropic, use la base inyectada URL y la clave directamente: el SDK agrega /v1/messages y envía x-api-key. Las solicitudes directas HTTP pueden usar ese encabezado o Authorization: Bearer <key>; incluya anthropic-version: 2023-06-01 y max_tokens en la solicitud cuando sea necesario. Con un cliente DeepSeek compatible con OpenAI, configure su clave base URL y API en las variables de DeepSeek. No agregue un segundo /v1 ni envíe el cuerpo de la solicitud de un proveedor al URL de un proveedor diferente.

Para conversaciones con herramientas, conserve los mensajes del asistente devueltos por el proveedor y los resultados de las herramientas coincidentes. Esto incluye firmas de pensamiento antrópico y DeepSeek reasoning_content; eliminarlos puede hacer que la siguiente solicitud falle.

Estas conexiones admiten las herramientas de funciones propias de su aplicación. La búsqueda alojada por el proveedor, la ejecución de código, la velocidad premium o las opciones de procesamiento regional no están disponibles a través de estas rutas. Los cachés de avisos estándar de cinco minutos y una hora de Anthropic se admiten y se miden por separado.

Las rutas de operación a continuación están definidas por OpenAI API. Amazi AI Gateway reenvía las solicitudes admitidas a los puntos finales de OpenAI correspondientes utilizando esas mismas rutas. La base OpenAI URL termina en /openai/v1. Añádale la ruta de operación de esta tabla; no agregue otro /v1. Cada operación a continuación utiliza POST:

Por ejemplo, la transcripción usa <base URL>/audio/transcriptions. El envío a la base /v1 por sí solo no selecciona una operación y /transcribe no es una ruta admitida. Elija un identificador de modelo exacto que admita la operación y el formato de entrada. La categoría de un modelo no elige la ruta automáticamente y Gateway no expone todos los puntos finales de los proveedores.

Para operaciones JSON, configure Content-Type: application/json y envíe el cuerpo JSON del proveedor. Por ejemplo, POST <base URL>/embeddings acepta {"model":"<embedding-model-from-the-catalog>","input":"Example text"} con la clave al portador.

Para la transcripción de audio, envíe file y un campo de texto model como multipart/form-data. Los campos pueden aparecer en cualquier orden. Con FormData, deje que el cliente HTTP genere el encabezado y el límite Content-Type. En este ejemplo de backend, modelName es el modelo de transcripción seleccionado y audioBlob contiene el archivo de audio:

const baseUrl = process.env.AMAZI_AI_GATEWAY_OPENAI_BASE_URL;
const key = process.env.AMAZI_AI_GATEWAY_OPENAI_API_KEY;
const form = new FormData();
form.append("file", audioBlob, "recording.wav");
form.append("model", modelName);
form.append("response_format", "json");
const response = await fetch(baseUrl + "/audio/transcriptions", {
  method: "POST",
  headers: { Authorization: "Bearer " + key },
  body: form,
});
if (!response.ok) throw new Error("Transcription failed: " + response.status);
const transcript = await response.json();

Establezca el tiempo de espera de la solicitud en el SDK del cliente o proveedor HTTP de su aplicación. Gateway no impone una fecha límite de ejecución del modelo. Su aplicación puede cancelar una solicitud cerrando su conexión; de lo contrario, espera el resultado o error del proveedor.

Para las transmisiones de respuestas OpenAI, mensajes antrópicos y finalización de chat DeepSeek, su backend puede solicitar progreso en vivo con el encabezado X-Amazi-Stream-Mode: live y stream: true. Los resúmenes de texto y razonamiento llegan mientras el modelo funciona. Una respuesta marcada como x-amazi-live-stream: 1 informa su costo liquidado en un evento amazi.billing que contiene chargedCredits y requestId, antes del evento de finalización. Los eventos de proveedores nativos mantienen su formato original. Cuente este cargo una vez por ID de solicitud; si falta, muestre el costo como no disponible.

En tiempo real WebSocket

OpenAI Realtime está disponible para aplicaciones de servidor. Convierta la base OpenAI inyectada URL de https a wss (o http a ws), agregue /realtime?model=<exact-model-name> y envíe la misma credencial de portador en los encabezados de actualización WebSocket. Los eventos en tiempo real conservan el protocolo OpenAI. No solicite un secreto de cliente del navegador y no incluya esta credencial de servidor en el código de interfaz.

Amazi no impone una duración fija de la llamada. Una sesión permanece conectada mientras el proveedor esté disponible y el propietario del proyecto tenga créditos. Las respuestas completadas se miden durante la sesión. Un error de transporte Amazi llega como un evento amazi.gateway.error que contiene un indicador procesable code, message, requestId, stage y retryable; Utilice estos campos en registros de backend seguros.

Agentes de voz telefónicos

Después de conectar Gateway, abra SIP Realtime y cree uno o más agentes de voz OpenAI. Cada agente tiene un nombre opcional, una configuración de backend opcional y URL de webhook de ciclo de vida, y su propia dirección SIP. Copie esa dirección al destino de reenvío en cualquier operador SIP compatible. Al eliminar un agente se revoca su dirección SIP sin cambiar otros agentes. Cada tarjeta etiqueta el punto final de configuración guardado, el webhook de llamada y las URL de Realtime WebSocket para que pueda distinguir sus propósitos sin abrir el formulario de edición. Si la creación informa que el servicio SIP no está disponible, el agente no se guardó. Vuelva a intentarlo más tarde o comuníquese con Soporte si el problema persiste.

Sin una configuración URL, el agente utiliza la configuración de sesión predeterminada y el primer modelo en tiempo real del catálogo actual. Agregue una configuración URL para sus propias instrucciones, configuraciones de audio o herramientas. Cuando se configura uno, Amazi le envía un GET autenticado para cada sesión. Un backend de vista previa solo se puede utilizar para una verificación manual mientras se ejecuta su entorno; una ruta telefónica activa debe utilizar una aplicación de producción URL, por lo que la suspensión preliminar no puede reemplazar la respuesta JSON con una respuesta de activación. El URL debe utilizar HTTPS, ser accesible desde la Internet pública y no debe depender de las cookies del navegador ni de la autenticación interactiva del usuario. Verifique su token de portador con la variable de entorno AMAZI_VOICE_CONFIGURATION_SECRET exclusiva del servidor y devuelva un objeto de sesión en tiempo real nativo del proveedor que contenga model. Los encabezados de solicitud también identifican la sesión, el agente de voz, el proveedor, el contrato de audio mono PCM16 24 kHz y el evento WebSocket URL. El código de backend del proyecto puede conectarse a ese URL con la clave Gateway inyectada del proveedor seleccionado para recibir eventos del proveedor y devolver los resultados de la herramienta sin cambios. Esto mantiene las herramientas comerciales y el acceso a la base de datos en el proyecto; Amazi transporta los eventos pero no ejecuta funciones del proyecto.

Créditos y uso

En el chat del proyecto, escriba / y elija Verificar uso del proyecto para abrir la página AI Gateway de toda la cuenta con este proyecto seleccionado. El filtro permanece seleccionado incluso cuando el proyecto aún no se utiliza; Puedes elegir otro proyecto o todos los proyectos allí.

Los proyectos archivados y eliminados permanentemente permanecen en las estadísticas de uso con etiquetas separadas Archivado y Eliminado. Aún puedes seleccionarlos para inspeccionar el uso anterior y sus cargos permanecerán incluidos en los totales. Al restaurar un proyecto archivado se elimina su etiqueta de archivo.

Para mostrar el costo exacto dentro de su aplicación, lea los encabezados x-amazi-charged-credits y x-amazi-gateway-request-id de respuestas exitosas de HTTP en su servidor. Sume los montos de crédito enteros una vez por ID de solicitud única. Esto utiliza el cargo liquidado de Amazi, incluidos los tokens almacenados en caché y el redondeo. Si no hay encabezados, muestre el costo como no disponible en lugar de cero.

Las solicitudes Gateway de un proyecto se cargan al saldo de crédito Amazi del propietario actual del proyecto. Comparten el plan de la cuenta y los créditos comprados con el trabajo de agente personal. La página Gateway de toda la cuenta identifica si el uso provino de una puerta de enlace de aplicaciones o del agente del proyecto. El uso distingue las operaciones de agente de proyecto, generación de imágenes y transcripción de audio; Los registros de Investigación y Código más antiguos permanecen en el historial, junto con el proveedor, el modelo, el proyecto, el estado, el tiempo, los totales de tokens y el uso de crédito.

Si el plan del propietario ya no incluye acceso a la puerta de enlace, los registros de conexión existentes permanecen pero el uso del proveedor se detiene hasta que vuelva la elegibilidad. Comuníquese con Soporte si tiene un problema de configuración o saldo del lado del proveedor; administre los créditos de su cuenta en Plan.

Proveedores y modelos disponibles

OpenAI

Anthropic

DeepSeek