Meet @fannheyward

Cache Pattern

There are only two hard things in Computer Science: cache invalidation and naming things. – Phil Karlton

Terminologies

  • Cache Hit: available in cache
  • Cache Miss: not available in cache
  • Cache Invalidation: invalidating and removing data from cache
  • Cache Eviction: removing old entries(base on age and frequency of use), and make space for new entries

Where the Cache is located?

  • Server’s Disk: enough space, but slow
  • Server’s Memory: much faster, but limited space and costlier
  • Client’s Disk: scalability, more storage, fewer network transers, but slow, outdated
  • Client’s Memory: faster than disk, but outdated

How to cache

Read-Through/Write-Through

App-Cache-DB 结构，App 不直接访问 DB，由缓存间接操作。读的时候先从缓存取数据，有就直接返回，没有的话由缓存负责从 DB 读取并更新到 Cache，然后返回数据。写的时候先写缓存，然后由缓存负责更新到 DB，只有 DB 更新完成才算写成功，返回操作结果。

  • 好处是缓存数据更新及时，适合读多写少，缺点就是写操作慢
  • 因为 DB 是通过 cache 更新，就不需要 Cache Invalidation
  • 建议主动触发 warmup 来提高缓存效率

image image

Write-Around

跳过缓存直接写数据到 DB。相比 Write-Through 避免了写数据时候对缓存数据的冲洗，缺点是缓存数据不能及时更新。

Write-Back/Write-Behind

数据写到缓存后操作立即返回结果，然后缓存系统延时＋异步的将数据更新到 DB，一般配合队列处理。这种写操作是最快的，也能避免大量写数据对 DB 的压力。缺点是数据一致性的复杂度增加。

image

Cache-Aside

App 读的时候检查数据是否在缓存中，有就返回，没有的话 App 直接读 DB 返回，同时将数据写入缓存。写操作的时候直接写入 DB，如果缓存中有对应数据，将缓存设置无效或删除，如果数据读取频繁的话也可以直接更新缓存中的数据，保证数据一致性。这种模式更多是有 App 进行数据检查，缓存只做存储。

cache-aside

一些参考：

  • https://msdn.microsoft.com/en-us/library/dn589799.aspx
  • http://www.computerweekly.com/feature/Write-through-write-around-write-back-Cache-explained
  • http://www.infoq.com/cn/articles/write-behind-caching/
  • http://docs.oracle.com/cd/E15357_01/coh.360/e15723/cache_rtwtwbra.htm#COHDG5177
  • https://www.v2ex.com/t/180474

Monthly Review 2015-03

  1. 依然是业务维护型开发，由于在新产品还在调研阶段，并没有太多代码产出，commit 只有 30.
  2. 抽空整理 API 文档，Gitbook 写文档挺方便。
  3. 面试了十来个 iOS 开发，要想考核别人，首先自己要知道，面试很考验技术的。

Monthly Review 2015-02

  1. 从 2.14 休假到月底，等于这个月只工作了半个月。
  2. 个人习惯，长假前三五天代码库冻结，除了 typo 级别的修改，其他全部延迟安排到假期后，这样算下来代码的时间就更少了。
  3. 然后就有了更多时间阅读学习，看了不少 Go 相关的，结合之前项目加深理解。
  4. 休假前推进完成服务迁移，长假期间没有出现一次问题，省心很多，更放心的玩耍。
  5. 算下来今年春节是这几年休假时间最长的，狠狠的陪六六半个月。
  6. 小孩子一天一个样，刚回去还没长牙，一周后露头，等走的时候已经很明显能看到小嫩牙。
  7. 车子成了现在人的身份象征，甚至高于房子。没人关心你做什么，追求什么，累不累，单纯的根据车子判断你的成功，大家似乎也很高兴用车子来证明自己。

Nginx If Is Evil

官方文档 IfIsEvil.

简单说在 location 中要尽量避免使用 if，如果一定要用，确保 if body 中只包含 return or rewrite，其他指令可能会出现莫名错误。

解决方案就是用 try_files 替换：

location / {
    try_files $uri $uri/index.html $uri.html =404;
}

如果想 if 和 try_files 一起用，可以把 if 放在 location 外：

set $APP 'unknown';
if ($query_string ~ "app=([^&]+)") {
   set $APP $1;
}
location = /api {
   try_files /$APP/data.json /data.json =404;
}

Nginx Pitfalls 列举了一些 nginx 陷阱，值得学习。

春哥这篇 How nginx “location if” works 做了逐步分析，学习。

Middleware

(这块内容属于个人理解，可能会不对)

最近学习中又一次接触 middleware 概念，一直对这个东西都比较模糊，似乎 Ruby 界用的比较多，比如 Rack。middleware 给我的感觉就是在请求与 App 之间对请求进行一层或多层处理，然后将处理后的请求对象交由 App；同理，在 App 和响应之间也可以有。

一个常见的业务场景：

请求 -> [cache.get -> 有－返回｜无 -> 服务处理生成数据 -> cache.set] -> 响应

其中 cache 读写都是在服务内处理请求时进行。套用 middleware 似乎是这样的流程：

请求 -> [middleware.cache.get -> 有－返回|无－请求交由下一步处理] -> [服务处理生成数据] -> [middleware.cache.set] -> 响应

去掉 middleware.cache 整个服务不受影响，流程变成了这样:

请求 -> [服务处理生成数据] -> 响应

middleware 的好处是可多层组合，让流程有层次，服务更专一。接下来要在实际项目中实践一下:

  • Negroni, Idiomatic HTTP Middleware for Golang. Martini 作者开发。
  • lua-resty-rack, A minimalistic rack implementation for Openresty.

Go 初体验

用 Go 写了第一个线上服务，简单记录一些。

  1. 直接 net/http，没有用 Web 框架。之前用过 Beego，强大但过于黑盒，很多细节不理解，其实 Go 已经提供了 web 开发所需要的东西，这个服务只需对外 API，没有页面等，直接 net/http 反而更简单。
  2. 强制代码风格，大爱，包括定义但不使用直接报错，刚开始会有不适应，但是对整体代码质量很有帮助。
  3. database/sql 提供了统一的数据库操作接口，配上不同的 driver 即可。
  4. Golang 的 error handlling 是个特色，但作为 web service 有些繁琐，需要再学习看有没有更为简洁的处理方式。
  5. 无痛热更新比较麻烦，还没有找到类似 Nginx 的实现。
  6. 性能上简单的 ab 压测和 ngx_lua 差距不大，开发效率相对高一些，毕竟自带库更丰富。
  7. gin 可以监控代码变化并自动重新编译，代理方式，不错的开发辅助工具。

Monthly Review 2015-01

  1. 参加一次线下的 Golang 技术聚会，收获不少。
  2. 有些业务功能很难 cover 全部情况，要有所取舍，满足最主要的用户需求。敢于放弃。
  3. Android 项目启动，简单调研了一下，对这个生态系统还是没兴趣，尤其是国内乱七八糟的市场。
  4. Golang 有了实际线上服务产出。
  5. 视频时六六已经会自己找爸妈了，真快。

Nginx DNS resolver

nginx 通过 proxy_pass 和 upstream server 通信的时候需要手动指定 resolver。某些时候 DNS 解析失败就会出现这个错误：

domain.com could not be resolved.

可以指定多个 DNS 并重置域名 TTL 延长 nginx 解析缓存来保障解析成功率：

resolver 223.5.5.5 223.6.6.6 1.2.4.8 114.114.114.114 valid=3600s;

如果还有解析错误，可以用 dnsmasq 在本地自建 DNS，顺带还有加速解析的好处：

#/etc/dnsmasq.conf
domain-needed
bogus-priv
cache-size=51200
listen-address=127.0.0.1

#server=223.5.5.5
resolv-file=/etc/resolv.conf

另外需要注意的是 proxy_pass 并不是每次请求都会进行解析，如果 upstream IP 频繁变动，需要强制解析:

# via http://forum.nginx.org/read.php?2,215830,215832#msg-215832
resolver 127.0.0.1;
set $backend "foo.example.com";
proxy_pass http://$backend;

HoloLens

When you change the way you see the world, you can change the world you see.

命令行 API 调试工具: HTTPie & jq

  • HTTPie: a CLI, cURL-like tool for humans.
  • jq: a command-line JSON processor.

HTTPie 类似 cURL，更简单易用，jq 用来解析 JSON，一起配合使用做 API 开发调试非常方便：

  1. GET: http :9090/api/test
  2. POST: http -f post --session=fann :9090/api/login' user=fannheyward passwd=passwd
  3. GET with cookie: http --session=fann :9090/api/profile
  1. jq . - 格式化整个 JSON
  2. jq ".status" - 只显示 status 字段的值
  3. jq ". | {name: .name, icon: .icon}" - 重组 JSON，只显示 name&icon 字段
  4. jq ".[] | {name: .name}" - 遍历 JSON 数组，只显示每个元素的 name 字段

更多高级用法参考各自文档。