推理优化还有未来吗

1天前发布
0 17 0
推理优化还有未来吗打开小红书就会精准推送,某双九,多段大厂实习,开源贡献,论文,offer情况都并不好(含蓄了),我半年前(大四时)从后端开发转向推理优化,确实是比较感兴趣,但有时候是不是不得不向现实低头,两年后的形势已经没有办法想象了

我感觉未来芯片原厂会把这些东西做好,互联网厂只需要算法不需要infra。但不知道是2年还是5年还是10年。

© 版权声明

相关文章

没有相关内容!

17 条评论

  • 头像
    亚头别emo 投稿者

    目前最厉害的人都去大模型算法了,剩下稍微差点的都再往infra里挤

    无记录
    回复
  • 头像
    -下飯少女Aaaanita- 投稿者

    肯定比我好找工作

    无记录
    回复
  • 头像
    云居河小铺 投稿者

    可能我接触的样本太少了,但大家都是清一色的高学历,高产出,多实习

    无记录
    回复
  • 头像
    马丁书屋 读者

    受教了

    无记录
    回复
  • 头像
    山山山山山火 投稿者

    不可能需求是会变的,infra永远是服务于需求和算法的变化的,芯片厂商离算法设计距离太远,很难第一时间直接跟进算法变化

    无记录
    回复
  • 头像
    YYDS 投稿者

    目前说形势不佳还太早了吧

    无记录
    回复
  • 头像
    玫玫丶07 投稿者

    北大✌🏻说笑了

    无记录
    回复
  • 头像
    欢乐生肖大小规律 读者

    不要想着论文里的那种搞ai infra,什么搞量化,改算子,优化推理引擎,做rdma… 这些岗位超级少,并且小公司用不着,大公司这些岗位的门槛又巨高。 要懂这些,但是做大ML sys的内容。eg: 搞一搞统一机器学习平台,agent优化、长窗口,rag工程…这些…

    无记录
    回复
  • 头像
    张鹤擎 投稿者

    超级担心,怕走死路了

    无记录
    回复
  • 头像
    和平精英 读者

    如果你26年毕业,竞争对手都是牛鬼蛇神,卷成麻花,而且坑位早已经被占完了,Low hanging fruit 基本差不多了,剩下和传统sys可能区别不大,只不过大模型的还在发展,硬件也在发展,还是需要压榨性能 [g=xiaojiujie][g=xiaojiujie]

    无记录
    回复
  • 头像
    清纯荷叶鸡 投稿者

    关键是hc会有吗?感觉这个不需要那么那么多人,前几届已经填满了,26届都没啥hc,更别说27 28了

    无记录
    回复
  • 头像
    赛博胖胖橘 投稿者

    [g=baiyan][g=baiyan] 放心 infra未来五年 乃至十年 大有可为 广阔天地!!放心冲!!

    无记录
    回复
  • 头像
    Colaholic_7 投稿者

    珍爱生命,远离AI

    无记录
    回复
  • 头像
    微漫烟叶 读者

    如果你24年毕业,推理优化刚刚起步,把infra的技术套用到ai infra上,许多收益;如果25年毕业还可以,还有一些feature跟进开源实现一下;

    无记录
    回复
  • 头像
    好家居 读者

    [g=jingya] 大模型算法应用门槛比infra低多了好吧。。。

    无记录
    回复
  • 头像
    享受生活 读者

    姐妹可以交流一下吗!

    无记录
    回复
  • 头像
    子春有柒 读者

    啊我还想转这个方向呢天坑博

    无记录
    回复