@thtznet Cisco 也避不免的干, 正如 IKEv2 也是很多企在用, 一受 UDP QoS 影差。

我以前有一段跟中的供商用 Cisco Webex , 一卡成狗, 微信好一但仍然很卡......

@sunnysab Local AI 中的放 LLM 的不, 但私有商 SOTA(只 API 那)模型比是比中模型

法比狼容易多了, 起法能刷等, 狼是不了就法

不以家用 Homelab , OpenStack 是太用牛刀, 用 Proxmox 就好

要 IAC 的用 Openstack 而不是 Proxmox, 在 Terraform/Opentofu 直接用 libvirt 太麻了

跟一家深圳的酒店分方案的西合作, 也真的奇芭, jar 是直接 ssh 部署的, 更神奇的是 dev 跟 staging 是各自一台立的 VPS, 不用 docker, 直接改 systemd, versioning control 就靠案名

由於它用不了 github, 要用它的自建 gitlab, 在中境外 OpenVPN 去它的阿里 VPS, 不消一就掉......

更搞笑的是, 由於年用 VPS 部署, 都是在 firewall 全 ports 方便部便部署, 果在 2024 年是能搞出公曝露 redis 然後被攻的事, 它用的 VPS 不便宜, 都是高配的

但其些西, 正常用 VPC + NAT Subnet 至少不生, 上 k8s 的更能保服不便曝露出去, 但它就是了方便部署甚都得出

除了中公司, 看有其他家的仍然守全手的公 SSH 部署, 似乎是的技差距

其都要背池了, 池用 24V 出, 降成 20V()及 12V(路由)效率好像比好, 流 A 比小, 但 12V 的更通用

如何, 能成功行已很害了

@katsusan 不用, 我用 3090 + Llama.cpp 能直接跑 FP4 的 GGUF, 速度也不, 100tps

而 5090 可以血跑 context 128k, 160tps 以上

直通到 VM ，限制的是 vGPU 一拆分卡租的功能

都是 k8s 能完成的西, 唯一要 systemd 的只有 kubelet, k3s control-pane 的可能有 etcd/api-server, DHCP 方面是配 multus 就能完成的西

pod 在 docker compose 上作用不明, 只是一堆共用 network 的 containers, 但 docker 本是 OCI 的能被 k8s 用成 pod 的子

而且 k8s 在配合的 container engine 是 containerd, 至少西和 docker 有也有 nvidia container toolkit 等大 GPU 的支持

我仍然得直接 k3s 比有用

年人究是年人, 太了, 不知道有多高, 阻的流量有多大.......

@owen800q 你 2023 年加入, 我 2015 年就了, 你算要我去哪?

白痴的端。