大西洋唱片成立于1947年，创始人是Ahmet Ertegun和Herb Abramson，唱片製造公司则由Abramson的妻子Miriam负责。1949年公司僱佣了第一名职员，簿记员Francine Wakschal。公司最早的办公地点在纽约曼哈顿的Ritz酒店里，之后由于租金过高，搬到了Jefferson宾馆中，这后来成为了一个着名的地址。

大西洋唱片的第一批唱片产品是在1948年1月推出的，包括Tiny Grimes的《That Old Black Magic》以及 Joe Morris的《The Spider》。在创办之初，大西洋唱片主要关注现代爵士乐，但也出版了一些乡村和诵读唱片。

40年代末，50年代初，两位创始人Ertegun和Abramson长期出入于酒吧夜店，发掘有才华的音乐人。Ertegun还以“A. Nugetre”的笔名创作了许多歌曲，包括Big Joe Turner的热单《Chains of Love》。

1949年初，一位经销商找到Ertegun，想得到Stick McGhee的唱片《Drinking Wine, Spo-Dee-O-Dee》，因为Stick的唱片公司倒闭，这个唱片找不到了。Ertegun联繫了Stick，对这张唱片进行了重新灌录并发行，发行后销售出400000张，在Billboard R&B榜上排到第三位，成为了大西洋公司的第一首成功的单曲。此次告捷后，公司业务开始飞速上涨，仅1949年一年的发行唱片数量就超过了前两年之和的三倍。

在播音员Willis Conover的推荐下，两位创始人拜访了音乐人Ruth Brown，她当时正因车祸住院，大西洋唱片照顾了她9个月并最终与她签约。她于1949年5月在发行了在大西洋的第一张唱片《So Long》，获得Billboard R&B榜第6名的成绩。之后又连续发行了8张唱片，成为这一时期大西洋公司最多产的歌手。而大西洋公司也因此为人们称为“一座由Ruth建立起来的房子”。

1950年，旗下艺人Joe Morris发行的唱片《Anytime, Anyplace, Anywhere》是大西洋公司发行的第一张45转唱片。1951年，The Clovers的《Don't You Know I Love You》是公司第一张在R&B榜上夺得冠军的唱片。随后，Ruth的《Teardrops from my Eyes》成为公司史上第一个超过百万销量的唱片。

1953年，当得知歌手Clyde McPhatter从原组合中单飞并正在筹建自己的组合的时候，Ertegun立即签下了这个新组合（The Drifters），他们的单曲《Money Honey》成为了年度最流行的R&B歌曲。此后儘管因为歌曲含有暗讽意味遭到一些电台抵制，但他们还是连续推出了几张登上R&B榜冠军的唱片。

唱片工程师Tom Dowd在公司的成功历史上扮演了重要的角色。大西洋唱片是最早使用立体声录音设备的独立音乐公司之一，Dowd使用了一个携带型的立体声录音机，与单声道录音机同时使用。1953年，大西洋公司使用一种试验性的立体声设备製作发行了密纹唱片。公司在纽约的录音室也是美国最早安装多轨录音系统的录音室，而直到60年代中期，多轨录音系统才成为唱片製作的标準设备配置。

Herb Abramson在1953年应徵入伍，但在服役期间仍然保留着公司总裁的职位。Ertegun聘用了R&B名称的定义者Jerry Wexler作为代理总裁。他们发行了许多黑人R&B唱片，取得了很好的商业成绩。1954年，当摇滚乐开始兴起，大西洋发行了第一支“跨界”单曲，The Clovers的《Sh-Boom》，拿到了流行榜的第5名。

Ahmet Ertegun的兄长Nesuhi Ertegun于1955年加入公司，主要致力于爵士乐的开发，签下了Shorty Rogers、Jimmy Giuffre、Herbie Mann和Les McCann等等西海岸爵士音乐人，发行了20张专辑，到1958年成为了美国第二大独立爵士音乐公司。同时Nesuhi还负责密纹唱片的生产，在唱片的包装上做了很大的改进工作。

1955年Herb Abramson回到公司，他发现他的位置已经事实上被Wexler所取代了，公司内渐渐地发生了矛盾。1958年，一份股权买断协定实施，他离开了公司。Ahmet Ertegun继任总裁。

大西洋公司在推动R&B音乐的流行中起到了主要的作用，公司越来越多的R&B音乐产品进入了主流听众市场。在公司10周年庆典之际，Billboard杂誌撰文称，以前一个非常成功的R&B唱片可以卖出25万张，但从现在起，能够见到一个又一个的百万销售记录了。

1954年以降，大西洋唱片创立和兼併了若干子公司，最早有Cat Records等。50年代中叶，又与法国Barclay唱片达成非正式合作协定。同时公司也开始在英国开始业务，1955年与英国Decca唱片签订了分销契约。

1955年，成立子公司Atco唱片。1957年成立eastwest唱片，包纳流行、摇滚、R&B等多个领域。不久，Atco唱片靠着The Coasters和Bobby Darin获得了令人瞩目的成功。60年代，大西洋还成立了Dial、Rosemart等若干地方性的小型厂牌。

1961年的一天，歌手Solomon Burke不期而至地来访问了Wexler，表示他与前一个公司的契约已经期满。Wexler当即决定签下了他，并为他製作了第一支单曲《Just Out of Reach》，成为了当年热门。1962年，民谣受到人们欢迎，公司很快签约了Peter, Paul & Mary三重唱。

1967－68是大西洋唱片的巅峰时期。1966年公司签下了灵魂歌手Aretha Franklin，之后连续发行了七首单曲，都名列流行和灵魂榜单前10位。

60年代中期的“英国入侵”使得大西洋更换了它的英国代理商，66年与Polydor唱片签订了一个新的互惠协定。英国团体Cream的专辑当年就在Atco发行，次年他们来到大西洋在纽约的录音室录製了专辑《Disraeli Gears》，在英美两国都拿到了前5的名次，单曲《Sunshine of Your Love》在Billboard单曲榜排到第5名。这也标誌着大西洋唱片成功进入了摇滚音乐界。

1967年，大西洋唱片被华纳旗下的Seven Arts以1750万美元的价格收购。

併入华纳后的LOGO，使用至2005年

在收购以后，Wexler在公司里的地位迅速下降，与新一代的艺人渐渐疏远，最终选择离开纽约去往佛罗里达居住。Ertegun于是成为了接下来公司中起决定性作用的人物。1968年大西洋建立了一个新的子公司Cotillion唱片，起初出版蓝调和灵魂乐，而不久就扩展到前卫摇滚、民谣摇滚、福音、爵士、喜剧等等。1976年，这个公司开始关注迪斯科和R&B，旗下拥有Johnny Gill、Slave等艺人。

1968年大西洋唱片签下了英国摇滚乐队Led Zeppelin，被称为是公司史上“最重要的事件”之一。Led Zeppelin的到来标誌着大西洋即将转型为一个摇滚音乐厂牌。同年，Cream在伦敦举行了他们的告别演出。

同一年，Crosby, Stills & Nash乐队来到大西洋唱片，次年5月发行同名专辑，获得专辑榜第6名的成绩以及多白金认证，并且被滚石评为有史以来最好的500张专辑之一。这次成功之后，乐队补充了包括Neil Young在内的新成员，花了几百小时录製了新专辑《Déjà Vu》，在1970年成为大热门，拿到专辑榜冠军。在接下来的几个月中，乐队各成员都製作了他们的独唱专辑。

Led Zeppelin也在这个时候成为世界上最成功的乐队之一，他们1969年发行的专辑迅速获得成功，在美国和英国排行榜上分别占据了73周和79周之久，仅在美国就获得了8白金认证。第二张专辑更为成功，获得美国、加拿大、英国、澳大利亚和西班牙专辑榜冠军，并荣获了格莱美最佳专辑提名，美国销量总计超过1200万张。与此同时，英国乐队Yes也作为前卫摇滚的先驱成立了。

1978年，大西洋唱片在新泽西的磁带仓库失火，5至6千卷磁带付之一炬，许多早期立体声录音资料丢失。

1988年，大西洋举行了40周年庆典，通过HBO电视台播放。

华纳公司与时代公司于1990年合併组建为时代华纳，同一年，Interscope唱片公司成立，大西洋是其投资者。

大西洋唱片的乡村音乐部在2001年关闭，2008年又因Zac Brown Band等的成功而得到复生。

2004年，将Elektra唱片合併。

2007年，公司举行60周年庆典，通过PBS电视台播放。

Big Beat Records

Big Tree Records

Cotillion Records

Eardrum Records

First Priority Music

Grand Hustle Records

LaSalle Records

Stone Flower Records

TAG Recordings

Vortex Records