基于.NET8的AI大模型管理

基于.NET8的AI大模型管理

TokenAI

TokenAI打造企业级人工智能客服管理系统!

基于.NET8的AI大模型管理基于.NET8的AI大模型管理基于.NET8的AI大模型管理基于.NET8的AI大模型管理基于.NET8的AI大模型管理

AIDotNet API

AIDotNet API 是一款强大的人工智能模型管理系统,其主要目的是为了实现多种AI模型的统一管理和使用。通过AIDotNet API,用户可以轻松地管理和使用众多AI模型,而且AIDotNet API兼容OpenAI的接口格式,使得使用更加方便。

AIDotNet API提供了丰富的功能:

  1. 管理功能:支持用户管理,渠道管理以及token管理,简化了管理流程。
  2. 数据统计预览:可以清晰地看到各种数据的统计情况,帮助用户更好地了解使用情况。
  3. 日志查看:支持日志查看,方便用户跟踪和解决问题。
  4. 系统设置:可以根据需要进行各种系统设置。
  5. 外部Chat链接接入:支持接入外部Chat链接,提升交互体验。
  6. 支付宝购买账号余额:提供支付宝购买账号余额的功能,方便用户进行充值。

此外,AIDotNet API还支持多种AI大模型,包括OpenAI、星火大模型、Claudia、智谱AI、Ollama、通义千问(阿里云)、AzureOpenAI以及腾讯混元大模型,满足了用户对各种AI模型的需求。

AIDotNet API还支持多种数据库,包括SqlServer、PostgreSql、Sqlite以及MySql,用户可以根据自己的需要选择合适的数据库。

基于.NET Core 8实现使用EntityFrameworkCore对于数据库操作。基于MiniApis提供WebAPI服务。

功能实现

  • 支持用户管理
  • 支持渠道管理
  • 支持token管理
  • 提供数据统计预览
  • 支持日志查看
  • 支持系统设置
  • 支持接入外部Chat链接
  • 支持支付宝购买账号余额

AI大模型支持列表

  • OpenAI (支持function)
  • 星火大模型(支持function)
  • Claudia
  • 智谱AI
  • Ollama
  • 通义千问(阿里云)
  • AzureOpenAI(支持function)
  • 腾讯混元大模型

支持数据库

  • SqlServer 配置类型[sqlserver,mssql]
  • PostgreSql 配置类型[postgresql,pgsql]
  • Sqlite 配置类型[sqlite,默认]
  • MySql 配置类型[mysql]

修改appsettings.jsonConnectionStrings:DBType配置项即可切换数据库类型。请注意切换数据库不会迁移数据。

基于.NET8的AI大模型管理

简单使用

默认账号密码 admin admin

环境变量

  • DBType sqlite | [postgresql,pgsql] | [sqlserver,mssql] | mysql
  • ConnectionString 主数据库连接字符串
  • LoggerConnectionString 日志数据连接字符串

使用docker compose启动服务:

version: '3.8'

services:
  ai-dotnet-api-service:
    image: hejiale010426/ai-dotnet-api-service:latest
    container_name: ai-dotnet-api-service
    volumes:
      - ./data:/data
    environment:
      - TZ=Asia/Shanghai
      - DBType=sqlite # sqlite | [postgresql,pgsql] | [sqlserver,mssql] | mysql
      - ConnectionString=data source=/data/token.db
      - LoggerConnectionString=data source=/data/logger.db

使用docker run启动服务

docker run --name ai-dotnet-api-service --network=gateway -v $PWD/data:/data -e TZ=Asia/Shanghai -e DBType=sqlite -e ConnectionString="data source=/data/token.db" -e LoggerConnectionString="data source=/data/logger.db" hejiale010426/ai-dotnet-api-service:latest

Sqlite构建

创建docker-compose.yml文件,内容如下:

version: '3.8'

services:
 ai-dotnet-api-service:
  image: hejiale010426/ai-dotnet-api-service:latest
  container_name: ai-dotnet-api-service
  ports:
    - 8080:8080
  volumes:
    - ./data:/data
  environment:
    - TZ=Asia/Shanghai
    - DBType=sqlite
    - ConnectionString=data source=/data/token.db
    - LoggerConnectionString=data source=/data/logger.db

docker run版本

docker run -d -p 8080:8080 --name ai-dotnet-api-service -v $(pwd)/data:/data -e TZ=Asia/Shanghai -e DBType=sqlite -e ConnectionString=data source=/data/token.db -e LoggerConnectionString=data source=/data/logger.db hejiale010426/ai-dotnet-api-service:latest

执行以下命令启动服务

sudo docker-compose up -d

然后访问 http://localhost:8080 即可看到服务启动成功。

PostgreSql构建

创建docker-compose.yml文件,内容如下:

version: '3.8'

services:
 ai-dotnet-api-service:
  image: hejiale010426/ai-dotnet-api-service:latest
  container_name: ai-dotnet-api-service
  ports:
    - 8080:8080
  volumes:
    - ./data:/data
  environment:
    - TZ=Asia/Shanghai
    - DBType=postgresql
    - "ConnectionString=Host=127.0.0.1;Port=5432;Database=token;Username=token;Password=dd666666"
    - "ConnectionString=Host=127.0.0.1;Port=5432;Database=logger;Username=token;Password=dd666666"

docker run版本

docker run -d 
  --name ai-dotnet-api-service 
  -p 8080:8080 
  -v $(pwd)/data:/data 
  -e TZ=Asia/Shanghai 
  -e DBType=postgresql 
  -e "ConnectionString=Host=127.0.0.1;Port=5432;Database=token;Username=token;Password=dd666666" 
  -e "ConnectionString=Host=127.0.0.1;Port=5432;Database=logger;Username=token;Password=dd666666" 
  hejiale010426/ai-dotnet-api-service:latest

执行以下命令启动服务

sudo docker-compose up -d

然后访问 http://localhost:8080 即可看到服务启动成功。

SqlServer构建

创建docker-compose.yml文件,内容如下:

version: '3.8'

services:
 ai-dotnet-api-service:
  image: hejiale010426/ai-dotnet-api-service:latest
  container_name: ai-dotnet-api-service
  ports:
    - 8080:8080
  volumes:
    - ./data:/data
  environment:
    - TZ=Asia/Shanghai
    - DBType=sqlserver
    - "ConnectionString=Server=127.0.0.1;Database=token;User Id=sa;Password=dd666666;"
    - "ConnectionString=Server=127.0.0.1;Database=logger;User Id=sa;Password=dd666666;"

docker run版本

docker run -d 
  --name ai-dotnet-api-service 
  -p 8080:8080 
  -v $(pwd)/data:/data 
  -e TZ=Asia/Shanghai 
  -e DBType=sqlserver 
  -e "ConnectionString=Server=127.0.0.1;Database=token;User Id=sa;Password=dd666666;" 
  -e "ConnectionString=Server=127.0.0.1;Database=logger;User Id=sa;Password=dd666666;" 
  hejiale010426/ai-dotnet-api-service:latest

执行以下命令启动服务

sudo docker-compose up -d

然后访问 http://localhost:8080 即可看到服务启动成功。

MySql构建

创建docker-compose.yml文件,内容如下:

version: '3.8'

services:
 ai-dotnet-api-service:
  image: hejiale010426/ai-dotnet-api-service:latest
  container_name: ai-dotnet-api-service
  ports:
    - 8080:8080
  volumes:
    - ./data:/data
  environment:
    - TZ=Asia/Shanghai
    - DBType=mysql
    - "ConnectionString=mysql://root:dd666666@localhost:3306/token"
    - "ConnectionString=mysql://root:dd666666@localhost:3306/logger"

docker run版本

docker run -d 
  --name ai-dotnet-api-service 
  -p 8080:8080 
  -v $(pwd)/data:/data 
  -e TZ=Asia/Shanghai 
  -e DBType=mysql 
  -e "ConnectionString=mysql://root:dd666666@localhost:3306/token" 
  -e "ConnectionString=mysql://root:dd666666@localhost:3306/logger" 
  hejiale010426/ai-dotnet-api-service:latest

执行以下命令启动服务

sudo docker-compose up -d

然后访问 http://localhost:8080 即可看到服务启动成功。



部署体验站点:https://api.token-ai.cn

原文始发于微信公众号(token的技术分享):基于.NET8的AI大模型管理

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由极客之家整理,本文链接:https://www.bmabk.com/index.php/post/292037.html

(0)
李, 若俞的头像李, 若俞

相关推荐

发表回复

登录后才能评论
极客之家——专业性很强的中文编程技术网站,欢迎收藏到浏览器,订阅我们!