链载Ai

标题: 可以在浏览器中本地运行Whisper了! [打印本页]

作者: 链载Ai    时间: 昨天 11:38
标题: 可以在浏览器中本地运行Whisper了!

开发者Matt Palmer最近分享了一个演示:在浏览器中直接运行Whisper模型,无需任何API调用

浏览器中的AI魔法

在Matt分享的视频中,我们可以看到Whisper模型在浏览器环境下流畅运行,实时将语音转换为文字。

这种本地化的AI处理方式不仅提高了响应速度,还避免了数据传输过程中可能存在的隐私风险。

技术背后的英雄

Matt特别感谢了@xenovacom和@huggingface提供的transformersjs库,这个强大的工具使得在浏览器中运行复杂的AI模型成为可能。

transformersjs是Hugging Face团队开发的JavaScript库,它允许开发者在浏览器或Node.js环境中使用各种预训练模型,包括Whisper这样的语音识别模型。

更多可能性

但故事并未就此结束。@_akhaliq补充道,开发者还可以结合Gradio lite和transformers js来构建更复杂的应用。Gradio lite是一个轻量级的库,允许开发者快速创建基于机器学习模型的交互式Web应用。

这种组合为开发者提供了一个强大的工具集:

实践指南

对于想要尝试这项技术的开发者,可以参考Gradio官方提供的指南。以下是一个简单的示例代码:


import gradio as grfrom transformers_js_py import pipeline
pipe = await pipeline('sentiment-analysis')
demo = gr.Interface.from_pipeline(pipe)
demo.launch()
ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;">
ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;">

这段代码展示了如何在浏览器中创建一个情感分析应用。通过修改pipeline的类型,开发者可以轻松切换到其他AI任务,如图像分类或语音识别。

这也标志着AI应用开发正在向着更加轻量化、隐私友好的方向发展。

它不仅降低了开发和部署的门槛,还为终端用户提供了更快速、更安全的AI体验。

随着浏览器性能的不断提升和Web技术的持续进步,以及AI 模型不断瘦身,前端开发也可以本地玩转AI 大模型了!







欢迎光临 链载Ai (https://www.lianzai.com/) Powered by Discuz! X3.5