|
|
· 人工智能 ·
把模型参数刻录到芯片上,推理速度可达通用GPU的48倍
使用Llama 3.1 8B模型硬连线定制的Taalas HC1。图片来源:Taalas
当Taalas将Meta的Llama 3.1 8B模型集成到HC1上时,推理速度可达16960 TPS,约为英伟达B200的48倍。图片来源:Taalas
目前科技公司通常使用GPU集群进行大语言模型推理,但GPU的显存成本高昂,产能受限,能耗成本也不容小觑。近日,AI芯片初创公司Taalas为了提升大模型每秒能生成的token数量(TPS),使用硬连线(hard-wired)技术,直接将大模型的权重以DRAM级密度刻录到硅芯片上,实现存储与计算融合,克服了系统中数据通信开销,大幅提升芯片TPS。他们推出的首款产品HC1采用台积电6纳米制程,芯片面积高达815平方毫米,服务器功耗仅2.5千瓦,且支持LoRA微调。
当Taalas将Meta的Llama 3.1 8B模型集成到HC1上时,推理速度可达16960 TPS,约为英伟达B200的48倍。Taalas的芯片也可以组成集群,运行更大的模型。据Taalas称,他们已经通过30芯片的配置实现了DeepSeek-R1的推理运行,速度可达12000 TPS。
为了适应AI模型的快速发展,Taalas开发了一个平台,可将任何AI模型转化为定制芯片。接受一个全新的模型后,只需要2个月就能实现定制硬件。这样的定制芯片在运行AI模型时,速度比通用GPU快1个数量级,且成本、功耗更低。(wccftech.com)
· 天文学 ·
清华大学提出新成像算法,可将望远镜探测深度提升1星等
星衍增强前后的韦布空间望远镜近红外观测数据对比(曝光时间约18个小时)。图片来源:清华大学
天文学家不断制造更大的望远镜,是为了收集更多光子,探测更暗更遥远的天体。但明亮的天光背景噪声(太阳系黄道光散射、银河系漫射光、未分辨的河外背景光)与望远镜自身的热辐射噪声叠加,遮挡了暗弱的星光。更为复杂的是,这些噪声在时空上呈现非独立、非均匀的异质性,使得基于独立同分布的传统叠加、堆栈方法,并不能很好消除这些噪声。
近日,清华大学自动化系戴琼海院士团队和天文系蔡峥副教授团队联手,合作提出时空自监督计算成像模型——星衍(ASTERIS)。它不再单纯将背景噪声视为随机干扰,而是对噪声的涨落与星体本身的光度进行联合建模。星衍直接利用带有真实噪声的海量真实数据进行训练,即可高保真地还原目标信号。在韦布空间望远镜的观测数据上,星衍展现了惊人的效果:将探测暗弱天体的完备度提升了整整1.0个星等,并将探测的准确度提升了1.6个星等,发现了超过160个宇宙早期的候选高红移天体,数量是先前发现的3倍。相关论文以优先发表(First Release)形式发表于《科学》(Science)杂志。(清华大学)
· 医学 ·
日本将批准首例干细胞疗法
人类诱导多能干细胞。图片来源:Christine Hale et al, 2015/ PLOS ONE. CC BY 4.0,
再生医学研究人员长期以来一直致力于利用干细胞培育替代细胞,以治疗各种疾病。据《自然》新闻(Nature News)报道,日本厚生劳动省已同意有条件地批准两种首创干细胞疗法上市,它们分别为Amchepry和ReHeart。
Amchepry主要用于治疗帕金森病,由住友制药公司(Sumitomo Pharma)和Racthera制药公司联合生产,目前已在7名受试者身上进行了试验。该疗法包括从志愿者身上采集血细胞,将其重编程为诱导多能干细胞(iPS 细胞),然后诱导这些重编程细胞分化为产生多巴胺的祖细胞,神经外科医生会将这些细胞移植到帕金森病患者的大脑中进行治疗。ReHeart由Cuorips制药公司生产,用于治疗严重心力衰竭,目前已在8名受试者身上进行了试验。该疗法也是利用患者提供的iPS 细胞,这些细胞会被分化成心肌细胞,然后培育成硬币状的、最多包含 1 亿个细胞的贴片。这些贴片会被移植到患有缺血性心肌病患者的心脏上,以促进心血管修复。不过,一些研究者表示,目前这些疗法的临床试验数据太少,现在谈论这类产品的商业化似乎还为时尚早。(Nature News)
· 环境 ·
研究人员从南极冰盖下提取了迄今为止最深的岩芯
SWAIS2C团队在冰层中钻了一个 523 米深的孔,提取了228米长的沉积物岩芯。 图片来源:Ana Tovey/SWAIS2C
据《自然》新闻(Nature News)报道,一支国际科学家团队从南极西部腹地带回了228米长的古代岩石和泥浆,这是迄今为止从冰盖下提取的最长岩芯。根据仅在特定地质时期存在的化石藻类的存在,初步测年表明,该岩芯代表了过去2300万年的地质记录。这其中包括地球表面平均温度高于今天的时期,也高于根据当前全球气候政策预测的2100年温度。该冰芯是西南极冰盖对升温2℃敏感性研究(SWAIS2C)项目的一部分。该项目旨在确定西南极冰盖在以往全球变暖时期退缩的程度,以及是否存在一个温度阈值,超过该阈值后冰盖的退缩将变得不可逆转。(Nature News)
· 心理学 ·
创造力能够提升日常幸福感,但高强度创意活动后,容易产生负面情绪
通常来说,创造力能让人心情更好。但一项发表于《积极心理学杂志》(The Journal of Positive Psychology)的研究发现,专业创意人士在经历了几天高强度的创意活动后,第二天往往会报告更多负面情绪——尽管创意活动在当下提升了他们的幸福感。研究人员将这种第二天的低落情绪称为 “创意宿醉”(creative hangover)。
研究追踪了355名成年人(包括202名创意从业者和153名创意参与度较低的对照参与者),并进行了13次关于创造力和多维幸福感的日常调查。结果发现,在参与者创造力更强的日子里,他们在多个方面都报告了更高的幸福感。他们的基线幸福感更高,尤其是在投入感/专注感、与他人的联系感以及意义感方面。非专业创作者往往能将创作带来的益处延续到第二天(例如心情和人际关系的改善),而专业创作者在创作高峰过后,第二天却往往表现出更多负面情绪。在对照组中,较低的幸福感与第二天更高的创造力相关;但这种模式并未在专业创意工作者中出现。这些发现表明,创造力似乎能为所有人带来即时的幸福感,但这种幸福感的出现时间和情感上的溢出效应可能取决于创作是出于职业目的还是出于业余爱好。(THE GRADUATE CENTER, CUNY)
撰文:王昱、冬鸢
|
|