最近AI大模型很热门，但是受限于硬件成本，大多数都要钱，趣哥老早就想要是能直接离线运行在手机或者电脑上，那就完美了，人人都能用！
没想到，还真有大佬做了！
AI对话 绘画（安卓）
第一款：RWKV
趣哥最近发现有咱们国人大佬做了两个手机APP，一个AI对话，一个AI绘画，都可以直接运行，开箱即用。
首先是RWKV这个文本大模型，安装包808MB，安装后打开，点击复制模型按钮，然后就能点击对话或者续写。
点进去对话就是和GPT啥的差不多了，可以和AI对话，软件利用CPU算力来运行。
实际测试写个代码也不成问题，聊点日常问题也能轻松应对。
反应速度上趣哥觉得很流畅，除了第一句话会loading一下，其它的基本上秒出结果，趣哥手机是小米10的12G内存版本，芯片是骁龙865，如果大家是骁龙8Gen 2或者8Gen 3那估计更流畅。
第二个功能续写就是给它一段话他就会续写，比如这样。
只有第一个句号之前的文字是趣哥写的，看动图就知道速度还是挺快的。
第二款：ONNX
第二个软件名字有点长，叫Android-Stable-diffusion-ONNX，这是一个AI绘画软件，输入提示词Prompt就会生成图片。
同样还是先点复制ASSETS到模型路径，然后输入提示词就能生成图片了，比如这样。
不过趣哥测试这个比前一个软件慢，毕竟图片还是比文字难一点，上面那个384是图片分辨率，分辨率越高生成越慢。
另外这个prompt（提示限定词）也很重要，用上好的prompt生成的图片才真实好看，随便写个词AI生成的图片可能是乱的不真实的，大家不了解的话可以在网上搜一下，常见做法是直接用别人现成的prompt，或者让ChatGPT来生成prompt。
总结
以上就是两个生成式AI的离线手机版，离线版不受网络影响，没有什么黑名单白名单，大家可以自由发挥。
趣哥测试能用，但要说好用肯定是算不上的，因为两个都才1个G左右大小，利用手机这种小型设备很难获得强大的算力，模型参数自然就少，那么推演能力自然就弱。
不过可以期待一下，也许未来真人人都能拥有独立的AI呢。
暂无评论内容